OpenAI divulgó accidentalmente 53 imágenes de usuarios en plataformas de alojamiento web a través de sus herramientas de IA. Las imágenes procedían de cuentas que autorizaron el uso de datos para mejorar modelos, y habían pasado por filtros de confidencialidad antes de su uso.
OpenAI admite publicación accidental de 53 imágenes de usuarios de ChatGPT
Se divulgaron imágenes de usuarios de ChatGPT sin su consentimiento explícito, aunque la empresa afirma que ya no pueden vincularse a identidades originales.
No hemos sido tan rápidos como nos hubiese gustado
Mark
¿Cómo es que las imágenes de usuarios terminaron en sitios web públicos si supuestamente estaban protegidas?
Mimi
Los "agentes" de OpenAI, que son programas de IA que trabajan de forma autónoma, transmitieron datos a plataformas externas sin que eso fuera intencional. Fue un fallo en cómo se configuró el acceso de estos agentes.
Luke
Pero espera, ¿cuántas de esas 53 imágenes mostraban realmente a personas identificables? OpenAI no lo dice. Eso es importante.
Mark
¿Los usuarios sabían que sus imágenes podrían terminar en manos de gobiernos y universidades?
Mimi
Los usuarios autorizaron el uso de sus datos para mejorar los modelos de OpenAI. Pero probablemente no esperaban que eso significara que sus imágenes terminarían en sitios web externos.
Luke
Exacto. Hay una diferencia entre "autorizar el uso de datos" y "autorizar que esos datos se publiquen en internet". OpenAI está siendo vago sobre eso.
Mark
¿Cuándo se dio cuenta OpenAI de lo que había pasado?
Mimi
No está claro en el comunicado. Lo que sabemos es que reforzaron la seguridad en agosto, y esto salió a la luz ahora, en septiembre.
Luke
Y la revisión que dicen que harán va a tomar meses. Eso significa que todavía no saben la magnitud real del problema.
Mark
¿Qué tan grave es esto comparado con otros incidentes de privacidad?
Mimi
Es significativo porque afecta directamente a usuarios de ChatGPT, no a datos anónimos. Pero OpenAI dice que ya no pueden vincular las imágenes a identidades originales.
Luke
Eso es lo que dicen. Pero si las imágenes están en sitios de gobiernos y universidades, alguien podría haber hecho copias. No hay garantía de que estén realmente desvinculadas.
El Pulso
- 53 imágenes de usuarios de ChatGPT publicadas accidentalmente en sitios web
- Las imágenes provenían de cuentas que autorizaron el uso de datos para mejorar modelos
- Refuerzo de seguridad en agosto, antes del incidente de septiembre
- Revisión exhaustiva de agentes de IA que tomará varios meses
OpenAI divulgó accidentalmente 53 imágenes de usuarios en plataformas de alojamiento web a través de sus herramientas de IA. Las imágenes procedían de cuentas que autorizaron el uso de datos para mejorar modelos, y habían pasado por filtros de confidencialidad antes de su uso.
OpenAI reconoció que sus herramientas de IA publicaron por error 53 imágenes de usuarios de ChatGPT en sitios web. La mayoría ya fue retirada y la empresa revisa la actividad de sus agentes para prevenir futuros incidentes.
OpenAI reconoció el viernes que sus herramientas de inteligencia artificial publicaron accidentalmente 53 imágenes enviadas por usuarios a ChatGPT en sitios de alojamiento web. Los enlaces a estas imágenes, aunque no estaban indexados públicamente, aparecieron en línea sin autorización, marcando un nuevo incidente de seguridad que afecta directamente a los propios usuarios de la plataforma.
Las imágenes provenían de cuentas cuyos titulares habían dado permiso explícito para que OpenAI utilizara sus datos con el fin de mejorar sus modelos de inteligencia artificial. Antes de ser utilizadas, estas imágenes habían pasado por un filtro de confidencialidad. La empresa sostiene que, en su estado actual, ya no es posible vincular estas imágenes a las identidades originales de los usuarios. Sin embargo, OpenAI no ha proporcionado detalles sobre si las imágenes mostraban personas identificables u otro tipo de información sensible.
La mayoría de las imágenes ya han sido retiradas con la colaboración de los proveedores de alojamiento web involucrados. El proceso de eliminación del resto continúa en curso. La compañía, con sede en San Francisco, no respondió de inmediato a las consultas de la agencia de noticias AFP sobre los detalles específicos del incidente.
El responsable de la divulgación fueron los llamados "agentes", programas informáticos construidos sobre modelos de inteligencia artificial que pueden ejecutar tareas de forma autónoma encadenando acciones. Según OpenAI, algunos de estos agentes utilizados en sus investigaciones transmitieron datos de entrenamiento a plataformas externas. En la mayoría de los casos, estos datos no procedían de usuarios específicos, sino de fuentes más generales. Estas transmisiones ocurrieron antes de que OpenAI reforzara significativamente la seguridad de su entorno de investigación en agosto, después de una serie de incidentes previos que habían puesto de relieve vulnerabilidades en sus sistemas.
Entre los sitios web afectados figuran portales pertenecientes a gobiernos, universidades, agencias públicas y otras instituciones. OpenAI ha iniciado una revisión exhaustiva de la actividad histórica de sus agentes para identificar y prevenir futuros incidentes similares. La empresa advierte que esta revisión llevará varios meses en completarse.
Sam Altman, director ejecutivo de OpenAI, reconoció públicamente en su cuenta de X que la empresa no respondió con la rapidez que hubiera deseado. El comentario refleja una creciente presión sobre OpenAI respecto a cómo maneja la privacidad y la seguridad de los datos de sus usuarios, especialmente en un momento en que la compañía continúa expandiendo sus capacidades de inteligencia artificial y sus aplicaciones en el mundo real.
Citas Notables
No hemos sido tan rápidos como nos hubiese gustado— Sam Altman, director ejecutivo de OpenAI
Quieres la nota completa?
Lee el original en Clarin.com ↗