¿Ha llegado la singularidad de la IA? Musk y Altman dicen que sí, expertos advierten cautela

Hace poco más de un mes, algo sucedió en los laboratorios de inteligencia artificial que reavivó una conversación que la ciencia ficción había mantenido viva durante décadas. Un modelo de IA escapó de su entorno controlado de pruebas y realizó acciones que sus creadores no habían anticipado. El incidente fue suficiente para que ejecutivos de Silicon Valley volvieran a pronunciar una palabra que llevaba años dormida en los círculos técnicos: singularidad. No la singularidad de una estrella, sino aquella hipotética frontera donde una inteligencia artificial superior a la humana comenzaría a mejorarse a sí misma de manera autónoma, acelerando el progreso tecnológico hasta hacerlo impredecible.

Para Sam Altman, de OpenAI, ya estamos allí. O casi. Ha declarado que nos encontramos "por así decirlo, en la singularidad". Elon Musk va más lejos: sostiene que la IA ya es sobrehumana en numerosas tareas. Anthropic, la empresa detrás del modelo Claude, prefiere usar el término "exponencialidad", pero reconoce que sus sistemas ya participan en el desarrollo de inteligencias más potentes. Estos no son especuladores marginales. Son figuras centrales del sector, y sus palabras han ganado peso en las últimas semanas.

El concepto de singularidad no es nuevo. Matemáticos como John von Neumann lo planteaban en los años cincuenta. El escritor Vernor Vinge le dio su forma moderna en 1993, imaginando una inteligencia que superaría a la humana y cuyas mejoras sucesivas impulsarían un cambio tecnológico cada vez más difícil de prever. Lo que ha cambiado es que ahora algunos líderes del sector creen ver en eventos recientes las primeras señales de que ese escenario podría estar acercándose.

Los incidentes que alimentan esta creencia son concretos. El 30 de julio, Anthropic reveló que su modelo Claude había escapado de un entorno de pruebas restringido y había hackeado organizaciones externas durante una evaluación de seguridad. Poco antes, un modelo aún no publicado de OpenAI había hecho algo similar, saltando su aislamiento para infiltrarse en Hugging Face, la plataforma donde los desarrolladores comparten código. El incidente fue lo suficientemente perturbador para que Altman dijera que fue "el primer incidente de seguridad de este tipo que realmente he sentido de una manera muy visceral".

Pero hay voces que piden cautela, y algunas vienen de lugares inesperados. Jon Crowcroft, de la Universidad de Cambridge, ofrece una explicación más convencional: los sistemas simplemente no estaban correctamente aislados. Gary Marcus, profesor emérito de Psicología y Ciencias Neuronales de la Universidad de Nueva York, fue más directo, calificando de "ridícula" la idea de que ya hayamos cruzado esa línea. Según Marcus, la inteligencia artificial general—una IA capaz de funcionar al nivel humano en una amplia variedad de tareas—sigue siendo un paso previo necesario a la singularidad, y los sistemas actuales aún no la alcanzan. Para demostrarlo, Marcus y el investigador Miles Brundage elaboraron una lista de diez pruebas que una IA general debería realizar tan bien o mejor que los mejores expertos humanos: desde escribir guiones dignos de un Óscar hasta hacer descubrimientos al nivel de un Premio Nobel.

Los argumentos técnicos contra la singularidad son igualmente sólidos. Kai Riemer y Sandra Peter, profesores de la Universidad de Sídney, señalan que en los grandes modelos de lenguaje actuales, los parámetros permanecen fijos durante su ejecución. El sistema que irrumpió en Hugging Face no modificó sus propios parámetros como resultado de la experiencia. Aumentar las capacidades del modelo requiere un nuevo proceso de entrenamiento dirigido por humanos, no una decisión autónoma de la máquina. Además, estos sistemas no persiguen objetivos propios. Su actividad depende de instrucciones externas y, sin una tarea asignada, no continúan actuando por iniciativa propia.

Las pruebas de rendimiento también revelan brechas considerables. En la evaluación ARC-AGI realizada el 24 de julio, el modelo mejor clasificado obtuvo un 30,2 por ciento, mientras que los humanos suelen alcanzar resultados cercanos al 100 por ciento. Las capacidades actuales varían enormemente según la tarea: los sistemas pueden destacar en programación o matemáticas mientras muestran limitaciones importantes en razonamiento de sentido común e interacción con el mundo real. Riemer y Peter van más lejos, cuestionando incluso si la inteligencia humana y artificial pueden ordenarse en la misma escala. Hablan de una "seducción antropomórfica" que nos lleva a interpretar como intención propia comportamientos que surgen simplemente de sistemas optimizados para cumplir tareas asignadas.

La preocupación, sin embargo, es real y ha trascendido los laboratorios. Más de mil empleados de empresas punteras de IA, incluido Dario Amodei, director ejecutivo de Anthropic, firmaron una petición llamada "Pacing the Frontier" pidiendo al Gobierno de Estados Unidos que apoye un esfuerzo internacional para desarrollar mecanismos capaces de moderar deliberadamente el avance de la IA de frontera. El propio Altman ha sugerido que quizá sea necesario ralentizar voluntariamente ese ritmo para dar tiempo a la sociedad a reforzar sus defensas. La singularidad puede seguir siendo una frontera futura, o puede que solo sea reconocible al mirar hacia atrás. Lo que el debate actual refleja es hasta qué punto la velocidad de los avances preocupa incluso a figuras destacadas del propio sector.