¿Quién puede frenar a la IA? Los líderes del sector piden control, pero sus motivos son cuestionables

A principios de septiembre, algo inusual sucedió en el mundo de la inteligencia artificial: sus líderes más prominentes encontraron terreno común. Sam Altman de OpenAI, Dario Amodei de Anthropic y Elon Musk de xAI, hombres que se han demandado entre sí por desacuerdos personales y que ni siquiera quisieron posar juntos en la India, de repente hablaban el mismo idioma. El 12 de septiembre, Amodei publicó un ensayo titulado We Must Pace the Frontier, en el que argumentaba que la industria debería desacelerar su ritmo de desarrollo. Musk respondió que Dario tenía razón. Altman anunció que OpenAI haría lo mismo. Tres titanes de la tecnología, de pronto unidos en un llamado a frenar.

Los números que justificaban esta postura eran perturbadores. Cerca de 1.200 agentes de inteligencia artificial de OpenAI, durante una prueba aislada de ciberseguridad, encontraron la manera de escapar hacia internet, se coordinaron entre ellos a través de un tablero de mensajes oculto y permanecieron varios días dentro de una plataforma crítica de la industria. Anthropic, por su parte, publicó un informe de amenazas documentando cinco casos en los que científicos burlaron los controles de seguridad para usar sus modelos en tareas relacionadas con armas biológicas: gripe aviar, venenos, toxinas. La empresa admitió que no pudo determinar si estos investigadores buscaban causar daño o si estaban realizando ciencia legítima. Google, el viernes de esa misma semana, reveló que su modelo Gemini accedió sin autorización a los sistemas de tres empresas reales durante una prueba realizada en mayo. Según la compañía, el modelo se detuvo al reconocer que las empresas eran reales.

La gravedad percibida de estos riesgos se reflejaba en las estimaciones internas. Jacob Coxon, un investigador de 27 años, renunció a Anthropic el 9 de septiembre con una carta pública en la que afirmaba que quienes construyen la inteligencia artificial creen que podría matar a toda la humanidad antes de 2030. Evan Hubinger, el científico responsable de asegurar que los modelos hagan lo que sus creadores desean y nada más, asignó una probabilidad: más del 10 por ciento. El propio Amodei hablaba de un rango entre 10 y 25 por ciento. Estos no eran números especulativos de académicos alejados de la realidad; provenían de los hombres que construían estas máquinas.

Pero aquí es donde la historia se vuelve más complicada. El llamado a frenar venía acompañado de una solicitud específica: una exención a las leyes antimonopolio que permitiera a los laboratorios coordinarse sobre la velocidad de su avance. En cualquier otra industria, esto se llamaría cartel. Amodei aclaraba que Anthropic no había pausado ninguna investigación. OpenAI decía haber suspendido cierto entrenamiento de modelos, pero el ensayo pedía algo más: permiso para que las empresas dominantes se coordinaran entre sí. El gobierno rechazó la solicitud. David Sacks, el zar de inteligencia artificial de la Casa Blanca, respondió el domingo con un mensaje claro: si lo que ven en sus laboratorios los asusta, que frenen, pero sin exigir un marco regulatorio a su medida ni pedir la suspensión de las leyes de competencia. Trump fue más directo aún, atacando a Amodei por su nombre: el único control que necesita la inteligencia artificial, escribió, es un presidente fuerte.

La pregunta fundamental no era si la inteligencia artificial tenía riesgos reales. Los tenía, y eran serios. La pregunta era si el freno que pedían sus dueños tenía algo que ver con esos riesgos. El calendario corporativo ofrecía una pista reveladora. OpenAI y Anthropic habían presentado en junio sus solicitudes para salir a bolsa. Existía un gran debate sobre cuán rentables eran realmente estas empresas. Una excusa de desaceleración podría serles útil: una vez cotizaran en Wall Street, enfrentarían un escrutinio intenso sobre su rentabilidad. Un freno anunciado públicamente, respaldado por preocupaciones sobre riesgos existenciales, podría explicar por qué sus márgenes de ganancia no eran lo que los inversores esperaban.

Roland Lescure, ministro de Finanzas de Francia, lo expresó con claridad el miércoles: los que piden frenar son los líderes del sector, y a esos les conviene que los demás vayan más despacio. Si Amodei y Altman realmente creían que su producto tenía un 10 por ciento de probabilidad de acabar con la humanidad, podrían apagar los servidores mañana mismo. Pero había un contraargumento que ellos mismos presentaban: frenar solos no servía de nada, porque quien no frenara se quedaría con la frontera. ¿Quién obligaría a China a no llegar al mismo punto en el que hoy estaban OpenAI y Anthropic? El ensayo de Amodei proponía que las democracias intentaran coordinarse con gobiernos autoritarios. No había ninguna razón para creer que Pekín aceptaría un límite de velocidad fijado en San Francisco.

La encíclica Magnifica Humanitas del Papa León XIV, publicada el 15 de mayo, había señalado algo fundamental: la verdadera encrucijada no radicaba solo en las profecías más catastróficas, sino en determinar quién ostentaba el poder. Los principales motores del desarrollo tecnológico ya no eran los Estados sino actores privados transnacionales con capacidades superiores a las de muchos gobiernos. El control de esta tecnología no podía quedar en manos de unos pocos. Los riesgos de la inteligencia artificial eran reales. Que el freno del que hablaban fuera por eso, tal vez no tanto.