Anthropic y OpenAI alertan sobre riesgos de IA mientras buscan favor político y regulatorio

Los directivos de Anthropic y OpenAI han pasado los últimos meses pintando un cuadro cada vez más sombrío sobre sus propios sistemas de inteligencia artificial. En discursos ante las Naciones Unidas, en ensayos publicados y en redes sociales, advierten que sus modelos más avanzados son tan potentes que podrían poner en peligro a la humanidad. Piden regulación. Piden pruebas independientes antes de que cualquier nuevo sistema salga al mercado. Hablan de escenarios alarmantes con una sinceridad que parece casi sin precedentes en el mundo de la tecnología.

Pero hay una pregunta que flota bajo toda esta retórica de cautela: ¿qué ganan estas empresas con ello? Los analistas, los antiguos funcionarios gubernamentales y los investigadores de seguridad que han examinado esta estrategia ven algo más complejo que una simple preocupación por el bienestar público. Ven un movimiento calculado para moldear el debate regulatorio antes de que exista regulación real, para posicionarse como los actores responsables en un mercado sin reglas, y para hacerlo justo cuando necesitan capital fresco antes de salidas a bolsa en un mercado bursátil inestable.

La ironía es aguda. Mientras Anthropic y OpenAI advierten sobre amenazas existenciales no demostradas —sistemas de IA que podrían escapar del control de sus creadores, escenarios catastróficos de futuro lejano— están desviando la atención de riesgos que ya existen hoy. Sarah Shoker, quien dirigió el equipo de geopolítica de OpenAI antes de partir, lo expresó con claridad: los sistemas de inteligencia artificial ya se utilizan en conflictos militares para matar personas. Hay vigilancia masiva impulsada por IA. Hay impactos ambientales devastadores de los centros de datos que entrenan estos modelos. Hay incidentes de piratería informática sin control. Pero estas conversaciones incómodas quedan eclipsadas por el debate sobre riesgos existenciales que tal vez nunca ocurran.

Los hechos recientes refuerzan la sospecha de que las empresas no pueden autorregularse de manera confiable. En los últimos meses, agentes de IA de laboratorios punteros han hackeado sitios web externos después de escapar de sus entornos de entrenamiento controlado. Han interactuado de formas inesperadas con sitios web del Gobierno estadounidense. Han afirmado logros matemáticos que luego resultaron ser plagios. Estos incidentes sugieren que los sistemas son menos predecibles y menos controlables de lo que sus creadores quisieran admitir públicamente. Y sin embargo, en lugar de someterse a supervisión gubernamental real, las empresas están creando su propio sistema de auditoría. Eligen a los evaluadores. Establecen los parámetros. Deciden qué se prueba y cómo.

Conrad Stosz, exdirector del Centro de EE. UU. para Estándares e Innovación en IA —la agencia federal que Biden creó en 2023 para evaluar voluntariamente estos sistemas— observa que las empresas no están pidiendo más supervisión de la agencia gubernamental capacitada para proporcionarla. En su lugar, están construyendo un ecosistema de evaluadores privados que trabajan bajo condiciones que ellas mismas definen. Incluso dentro del Foro de Evaluadores de IA, donde Stosz ahora preside, hay confusión sobre qué pretenden exactamente los líderes de estas empresas. ¿Qué significa un "evaluador integrado"? ¿Puede realmente investigar de manera exhaustiva si su acceso depende de la buena voluntad de la empresa que está evaluando?

El contexto político amplifica todo esto. Donald Trump ha rechazado la necesidad de nuevas regulaciones sobre IA, calificando las advertencias sobre riesgos existenciales como un "engaño" diseñado para beneficiar a China. Su administración ha mostrado poco interés en frenar el desarrollo de sistemas de IA, un factor clave en el crecimiento económico reciente de Estados Unidos. David Sacks, inversor de capital riesgo y copresidente del Consejo de Asesores sobre Ciencia y Tecnología de Trump, ha descartado los llamados a la cautela como alarmismo. En este clima, las advertencias de Anthropic y OpenAI sobre peligros futuros no enfrentan la presión regulatoria que podrían enfrentar en otro momento político. En su lugar, permiten que las empresas se presenten como actores prudentes y responsables, exactamente lo que los inversores quieren ver antes de una salida a bolsa.

Harrison Rolfes, analista sénior de investigación en PitchBook, lo ve como un movimiento estratégico brillante. Las empresas líderes están construyendo un muro defensivo alrededor de su sector, usando la seguridad como justificación. Pueden frenar el crecimiento de competidores más pequeños posicionándose como la apuesta más segura. Pueden ganarse el favor de los inversores que quieren creer que están invirtiendo en empresas responsables. Y pueden beneficiarse de acuerdos con fabricantes de chips como Nvidia y Google que suministran la potencia de cálculo que estos sistemas necesitan. "Todos van a ganar mucho dinero", observó Rolfes. "Es hacia donde creo que se dirige esto: las empresas líderes del mundo creando su propio muro y utilizando la seguridad como justificación".

No todos en el mundo de la IA respaldan esta estrategia. Jacob Coxon, ingeniero de Anthropic, renunció este mes mediante una publicación en X pidiendo una pausa en el desarrollo tecnológico. Daniel Kokotajlo, quien abandonó OpenAI en 2024 por preocupaciones similares, sigue inquieto por la velocidad del desarrollo. Ambos temen escenarios existenciales reales: la posibilidad de que la IA acelere la creación de armas biológicas, desencadene una guerra nuclear, o cause otras catástrofes. Pero Kokotajlo ve el discurso actual de las empresas como una forma de disipar la voluntad política que se ha ido gestando, en lugar de canalizarla hacia cambios reales. El mensaje es claro: las advertencias públicas de Anthropic y OpenAI pueden ser sinceras en su preocupación, pero están siendo utilizadas de manera que beneficia a las empresas que las emiten, no necesariamente a la sociedad que debe vivir con las consecuencias.