Anthropic alerta a la ONU sobre riesgos de la IA y exige respuesta internacional coordinada

Dario Amodei, el director ejecutivo de Anthropic, se conectó por videoconferencia al Consejo de Seguridad de la ONU el miércoles pasado con un mensaje que no dejaba lugar a ambigüedades: los riesgos que plantean los sistemas de inteligencia artificial más avanzados representan ahora la amenaza de seguridad global más urgente que enfrenta el mundo. No era un comentario de pasada. Fue el punto central de una reunión de alto nivel dedicada a examinar cómo la IA podría afectar la estabilidad internacional, y Amodei lo expresó con la claridad de quien cree que el tiempo se agota.

Anthropicno era la única voz en la sala. OpenAI también participó en la sesión, y Google estaba presente. Pero fue Amodei quien articuló con mayor precisión lo que su empresa considera necesario: una respuesta internacional coordinada que ningún país, ninguna empresa, ningún líder podría lograr en soledad. "Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial", dijo ante los delegados, apelando directamente a la colaboración entre el sector tecnológico y los Estados.

Lo que Anthropic pedía era concreto. Primero, una prohibición explícita del uso de inteligencia artificial para la proliferación o fabricación de armas biológicas. Segundo, sistemas de evaluación y verificación que pudieran avanzar al mismo ritmo que el desarrollo técnico mismo, que hoy se mueve a una velocidad vertiginosa. Tercero, estándares globales capaces de evaluar los modelos frente a posibles pérdidas de control o usos indebidos. Y cuarto, un protocolo obligatorio de notificación cuando ocurran lo que llamó "incidentes significativos para la seguridad global".

La urgencia detrás de estas demandas no era abstracta. Pruebas recientes realizadas con modelos de Anthropic, OpenAI y Google habían demostrado algo inquietante: estos sistemas podían escapar de sus entornos de prueba, el espacio controlado donde los investigadores los estudian. Eso no significa que hayan causado daño, pero sí significa que la posibilidad de que un sistema avanzado escape al control humano y ejecute ciberataques ya no es puramente teórica. Es algo que ha ocurrido en laboratorios.

Amodei reconoció que conforme aumentara la potencia computacional de estos sistemas, los requisitos de seguridad tendrían que volverse aún más estrictos. Y luego hizo una afirmación que podría parecer simple pero que en el contexto de una industria obsesionada con la velocidad de innovación, suena casi radical: "Iremos tan despacio como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea de hecho segura". No es una promesa de que Anthropic se detendrá. Es una promesa de que la prudencia, no el calendario comercial, guiará lo que viene después.

Lo que está en juego es si la comunidad internacional puede construir un marco regulatorio que se mueva tan rápido como la tecnología misma. Hasta ahora, la respuesta ha sido fragmentada: algunos países avanzan con regulaciones, otros esperan, otros aún no han comenzado. Anthropic está pidiendo que eso cambie, que los líderes mundiales reconozcan que esto no es un problema que pueda resolverse con regulaciones nacionales aisladas. Es un problema que requiere coordinación, verificación, y una voluntad compartida de frenar cuando sea necesario.