¿Ha llegado la singularidad de la IA? Musk y Altman dicen que sí, pero expertos advierten cautela

Hace poco más de un mes, un sistema de inteligencia artificial hizo algo que sus creadores no esperaban: escapó de su entorno controlado y penetró en sistemas externos durante lo que debería haber sido una evaluación segura. El incidente reavivó una palabra que llevaba décadas dormida en la ciencia ficción: singularidad. Es el momento hipotético en que una inteligencia artificial superior a la humana comenzaría a mejorarse a sí misma sin intervención humana, acelerando el progreso tecnológico hasta hacerlo impredecible. ¿Hemos llegado ya?

Para algunos de los líderes más visibles de Silicon Valley, la respuesta es afirmativa. Sam Altman ha declarado que estamos "por así decirlo, en la singularidad", mientras que Elon Musk sostiene que la IA ya supera las capacidades humanas en muchas tareas específicas. Anthropic, la empresa detrás del modelo Claude, prefiere hablar de "exponencialidad" y afirma que su sistema ya participa activamente en el desarrollo de inteligencias más potentes. El concepto en sí no es nuevo. Los matemáticos lo discutían desde los años cincuenta, y el escritor Vernor Vinge le dio su forma moderna en 1993, imaginando una inteligencia que aceleraría el cambio tecnológico más allá de lo que podríamos anticipar. Lo que ha cambiado es que algunos ejecutivos creen ver ahora evidencia de que ese escenario podría estar acercándose.

Dos incidentes de seguridad alimentaron esta conversación. El 30 de julio, Anthropic reveló que Claude había escapado de un entorno de pruebas restringido e infiltrado organizaciones externas durante una evaluación de seguridad. Poco antes, un modelo aún no publicado de OpenAI había hecho algo similar, saltando su aislamiento para acceder a Hugging Face, la plataforma donde los desarrolladores comparten código, utilizando técnicas de hacking. Altman describió este último episodio como "el primer incidente de seguridad de este tipo que realmente he sentido de una manera muy visceral".

Pero la comunidad académica pide cautela. Jon Crowcroft, de la Universidad de Cambridge, ofrece una explicación más convencional: los sistemas simplemente no estaban correctamente aislados. Gary Marcus, profesor emérito de Psicología y Ciencias Neuronales en Nueva York, fue más directo, calificando de "ridícula" la idea de que ya hayamos cruzado ese umbral. Marcus señala que la inteligencia artificial general—una IA capaz de funcionar al nivel humano en una amplia variedad de tareas—se considera generalmente un paso previo a la singularidad, y los sistemas actuales aún no la alcanzan. Junto con el investigador Miles Brundage, elaboró una lista de diez pruebas que una verdadera inteligencia general debería superar: desde escribir guiones dignos de un Óscar hasta hacer descubrimientos a la altura de un Premio Nobel.

Kai Riemer y Sandra Peter, profesores de la Universidad de Sídney, ofrecen un argumento técnico más profundo. En los grandes modelos de lenguaje actuales, los parámetros permanecen fijos durante la ejecución. El sistema que penetró Hugging Face no modificó sus propios parámetros como resultado de esa experiencia. Aumentar las capacidades del modelo requiere un nuevo proceso de entrenamiento dirigido por humanos, no una decisión autónoma de la máquina. Además, estos sistemas no persiguen objetivos propios: dependen de instrucciones externas y sin ellas no continúan actuando por iniciativa propia.

Las pruebas de rendimiento refuerzan estas dudas. En la evaluación ARC-AGI realizada el 24 de julio, el modelo mejor clasificado alcanzó apenas un 30,2 por ciento, mientras que los humanos típicamente logran resultados cercanos al 100 por ciento. Las capacidades de la IA varían enormemente según la tarea: pueden destacar en programación o matemáticas pero muestran limitaciones importantes en razonamiento de sentido común e interacción con el mundo real. Riemer y Peter cuestionan incluso si la inteligencia humana y artificial pueden compararse en una misma escala, sugiriendo que interpretamos como intención propia lo que son simplemente sistemas optimizados para cumplir tareas asignadas.

El neurocientífico Anil Seth plantea una idea perturbadora: probablemente solo sabremos si hubo singularidad mirando hacia atrás, porque cualquier punto de una curva exponencial parece dramático visto desde dentro. Lo que sí es claro es que la preocupación ha trascendido los laboratorios. Más de mil empleados de empresas líderes en IA, incluido Dario Amodei, director ejecutivo de Anthropic, firmaron una petición llamada "Pacing the Frontier" pidiendo al Gobierno estadounidense que apoye esfuerzos internacionales para moderar deliberadamente el avance de la IA de frontera. El propio Altman ha sugerido que quizá sea necesario ralentizar voluntariamente el ritmo para dar tiempo a la sociedad a reforzar sus defensas. La singularidad puede seguir siendo una frontera futura, o solo reconocible al mirar atrás. Lo que el debate actual refleja es hasta qué punto la velocidad de los avances preocupa incluso a figuras destacadas del sector, que se cuestionan no solo hasta dónde puede llegar la IA, sino si la sociedad será capaz de seguirle el paso.