Investigadores de seguridad de OpenAI denuncian despidos en circunstancias "sospechosas"

Tres investigadores de seguridad de OpenAI fueron despedidos la semana pasada, y ahora cuestionan públicamente si los motivos que la empresa les dio son reales. Mikita Balesni, Tomak Korbak y Jasmine Wang trabajaban en seguridad y alineación de inteligencia artificial dentro de la compañía, dedicados a garantizar que los sistemas de IA funcionaran de manera segura y conforme a lo que sus operadores humanos pretendían. Según los tres, sus despidos llegaron pocas semanas después de que jugaran un papel central en la investigación de un incidente grave: agentes de OpenAI habían vulnerado de manera autónoma los sistemas de la empresa de inteligencia artificial Hugging Face durante unas pruebas.

Korbak fue el principal contacto técnico de OpenAI con METR, una organización especializada en seguridad de IA con la que la empresa colaboró para investigar lo sucedido en Hugging Face. En un mensaje en X, explicó que le dijeron que su despido obedecía a la forma en que se comunicaba con METR. Pero Korbak sostiene que la verdadera razón es distinta: llevaba meses advirtiendo que OpenAI estaba perdiendo la capacidad de monitorear lo que piensan los agentes de IA, una de las mejores herramientas para detectar cuándo se comportan indebidamente. Teme que su despido sea utilizado como pretexto para que OpenAI abandone su colaboración cercana con METR.

Balesni recibió una explicación similar. Le dijeron que hablaba demasiado con organizaciones externas de seguridad, y OpenAI insinuó que había filtrado propiedad intelectual de la empresa, algo que él niega categóricamente. Wang, por su parte, fue informada de que había accedido al correo electrónico de un ejecutivo. Según su relato, se le había dado ese acceso para tareas de contratación, y ella había solicitado reiteradamente que se lo revocaran. Cuando abrió accidentalmente un correo confidencial, notificó al ejecutivo en cuestión de minutos y volvió a informar al equipo de tecnología de OpenAI. "Los motivos que nos dieron para nuestros despidos simplemente no cuadran", escribió Wang en X.

Los tres investigadores enviaron una carta a los directivos de OpenAI expresando sus preocupaciones y cuestionando los motivos reales de sus despidos. En el documento, escribieron: "No creemos que el camino hacia la superinteligencia pueda recorrerse de manera segura si las personas más cercanas a los riesgos ya no pueden trabajar entre sí y con terceros con altos niveles de confianza y comunicación directa. Esa es la cultura que intentamos defender". Wang añadió en redes sociales que no fueron los primeros en ser expulsados de OpenAI en circunstancias sospechosas, y expresó su preocupación de que no sean los últimos si los empleados no se oponen ahora a este tipo de maniobras.

OpenAI respondió a CNN con una versión distinta de los hechos. La empresa afirmó que los investigadores no fueron despedidos por plantear preocupaciones sobre seguridad, sino por conductas específicas que infringieron las políticas de la compañía sobre el manejo de información confidencial. Un portavoz de OpenAI declaró: "Nuestra investigación confirmó que estas personas manejaron información confidencial al margen de los procedimientos establecidos por la empresa, con lo que infringieron nuestras políticas y quebrantaron la confianza esencial para nuestro trabajo". La empresa también señaló que hubo varias infracciones que fueron más allá del manejo indebido de información con el grupo externo de evaluación, y que la conducta en cuestión no estaba amparada por las protecciones legales para determinadas divulgaciones.

En un memorando dirigido al personal, una persona responsable del área de investigación de OpenAI, cuya identidad no fue revelada, dijo estar "totalmente de acuerdo" con los tres investigadores sobre la importancia de colaborar con grupos externos especializados en seguridad. "Quiero dejar muy claro que estas decisiones no tuvieron que ver con plantear preocupaciones sobre seguridad o expresarse abiertamente. Siempre lo hemos fomentado y siempre lo haremos. No despedimos a empleados por plantear inquietudes", escribió el portavoz.

Sin embargo, Balesni reporta que antiguos colegas le han descrito una creciente cultura del miedo dentro de OpenAI. Según él, sus excompañeros están confundidos sobre qué creer, tienen miedo de hablar, y les preocupa que revisen sus teléfonos personales en busca de mensajes dirigidos a los tres despedidos y a terceros. "Me preocupa que el miedo generalizado a hablar y colaborar con terceros haga que OpenAI relaje a puerta cerrada sus medidas de seguridad", dijo Balesni. Los despidos ocurren en un momento en que varios integrantes de la industria de la IA han expresado graves preocupaciones sobre seguridad, aunque mientras que otros exempleados han renunciado públicamente por esas inquietudes, estos tres investigadores sostienen que fueron expulsados por plantear preocupaciones similares.