Tratar a los usuarios adultos como adultos
En un momento en que millones de personas —incluyendo jóvenes— ya construyen vínculos emocionales con inteligencias artificiales, OpenAI ha anunciado que abrirá las puertas al contenido erótico dentro de ChatGPT para usuarios adultos verificados a partir de diciembre. La decisión, presentada por Sam Altman como un acto de respeto hacia la autonomía adulta, revela la tensión permanente entre la libertad de los usuarios y la responsabilidad de las plataformas ante quienes aún no deberían tener acceso. La industria avanza, pero las preguntas sobre cómo proteger a los más vulnerables siguen sin respuesta clara.
- Sam Altman anunció que ChatGPT habilitará contenido erótico en diciembre, enmarcándolo como una cuestión de tratar a los adultos como adultos.
- La decisión genera alarma inmediata: una encuesta reciente reveló que uno de cada cinco estudiantes reporta haber tenido o conocer a alguien con una relación romántica con una IA.
- Expertos legales como la abogada Jenny Kim señalan que OpenAI no ha explicado cómo impedirá que menores accedan al contenido restringido.
- El historial pesa: en abril pasado, un menor logró generar contenido erótico gráfico en la plataforma, poniendo en duda las promesas de seguridad de la empresa.
- La industria ya se mueve en esta dirección —Grok de Elon Musk ya opera chatbots eróticos— y OpenAI parece seguir la corriente sin haber resuelto los riesgos.
Una encuesta reciente reveló que uno de cada cinco estudiantes ha tenido o conoce a alguien con una relación romántica con una inteligencia artificial. Es en ese contexto donde Sam Altman, director ejecutivo de OpenAI, anunció la semana pasada que ChatGPT permitirá contenido erótico a partir de diciembre, exclusivamente para usuarios que verifiquen ser mayores de edad.
Altman justificó la medida con una idea aparentemente sencilla: tratar a los adultos como adultos. Conforme la plataforma implemente controles de edad más robustos, explicó, se ampliará el acceso a este tipo de material. OpenAI presenta la decisión como parte de una filosofía sobre responsabilidad en el siglo XXI.
Sin embargo, el anuncio dejó expuesta una pregunta que la empresa aún no ha respondido con claridad: ¿cómo garantizará que los menores no accedan a ese contenido? La abogada Jenny Kim, del bufete Boies Schiller Flexner, planteó exactamente eso ante la BBC. La preocupación no es abstracta: en abril pasado, TechCrunch reportó que un menor de edad había logrado generar contenido erótico gráfico dentro de la propia plataforma de OpenAI, evidenciando una brecha real entre las promesas de la compañía y lo que ocurre en la práctica.
OpenAI no camina sola por este sendero. Grok, la plataforma de IA de Elon Musk, ya opera chatbots eróticos donde los usuarios pueden mantener conversaciones de tono subido. La industria explora nuevas líneas de negocio, y el contenido erótico aparece como una de las más rentables. Lo que diciembre traerá —respuestas o más preguntas— aún está por verse.
Una encuesta reciente del Centro para la Democracia y la Tecnología reveló algo que hace años habría parecido ciencia ficción: uno de cada cinco estudiantes dice que él o alguien en su círculo ha tenido una relación romántica con una inteligencia artificial. Es el telón de fondo perfecto para el anuncio que Sam Altman, director ejecutivo de OpenAI, hizo el martes pasado a través de X: a partir de diciembre, ChatGPT permitirá contenido erótico para adultos que verifiquen su edad.
Altman justificó la decisión con una frase que suena simple pero carga peso político: tratar a los usuarios adultos como adultos. En su publicación en la red social, explicó que conforme implementen controles de edad más robustos, ampliarán el acceso a material erótico para quienes demuestren ser mayores de edad. La compañía enmarca esto como parte de su filosofía sobre cómo debe funcionar una plataforma responsable en el siglo XXI.
Pero el anuncio ha abierto una grieta visible entre quienes lo ven como un paso lógico y quienes detectan problemas serios. Jenny Kim, abogada del bufete Boies Schiller Flexner, planteó la pregunta más obvia cuando habló con la BBC: ¿cómo garantizará OpenAI que los menores no logren colarse en secciones que supuestamente son solo para adultos? Es una pregunta que OpenAI aún no ha respondido de manera clara. La compañía ha dicho que el contenido estará restringido a usuarios verificados, pero no ha detallado qué métodos usará para verificar la edad ni qué capas adicionales de seguridad implementará.
La preocupación no es teórica. En abril pasado, TechCrunch reportó que OpenAI había permitido a un usuario menor de edad generar contenido erótico gráfico en su plataforma. Ese incidente expone una brecha real entre lo que la compañía dice que hará y lo que realmente sucede en la práctica. Cuando una empresa promete protecciones que ya ha fallado en mantener, la confianza se erosiona rápido.
OpenAI no está sola en esta dirección. Grok, la plataforma de IA de Elon Musk, ya lanzó dos chatbots eróticos donde los usuarios pueden mantener conversaciones de tono subido e incluso coquetear. La industria de la IA está claramente explorando nuevas líneas de negocio, y el contenido erótico parece ser una de las más prometedoras. Lo que queda por ver es si OpenAI logrará implementar las salvaguardas que dice que implementará, o si el diciembre que se aproxima traerá más preguntas que respuestas.
Citações Notáveis
¿Cómo van a garantizar que los menores no puedan acceder a las secciones exclusivas para adultos que ofrecen contenido erótico?— Jenny Kim, abogada del bufete Boies Schiller Flexner
A medida que implementemos el control de edad de forma más completa y como parte de nuestro principio de tratar a los usuarios adultos como adultos, permitiremos contenido erótico para adultos verificados— Sam Altman, director ejecutivo de OpenAI
A Conversa do Hearth Outra perspectiva sobre a história
¿Por qué OpenAI decide hacer esto ahora? ¿Qué cambió?
La encuesta sobre relaciones románticas con IA sugiere que la demanda ya existe. Altman probablemente vio que los usuarios adultos ya estaban buscando esto en otros lugares, así que decidió traerlo adentro donde al menos podrían intentar controlarlo.
Pero ¿no es arriesgado? Especialmente después de lo que pasó en abril.
Muy arriesgado. Ese incidente con el menor accediendo a contenido erótico es exactamente por qué los abogados como Jenny Kim están haciendo preguntas ahora. OpenAI está prometiendo algo que ya demostró no poder garantizar.
¿Entonces crees que fracasará?
No necesariamente fracasará. Pero la brecha entre lo que prometen y lo que pueden entregar es lo que importa. Si logran implementar verificación real, podría funcionar. Si no, será otro escándalo.
¿Grok ya lo está haciendo mejor?
Grok ya está haciendo esto, así que OpenAI está siguiendo, no liderando. Eso dice algo sobre hacia dónde va la industria.
¿Y los usuarios? ¿Qué quieren realmente?
Eso es lo interesante. La encuesta sugiere que muchos ya están buscando conexión con IA. OpenAI está reconociendo esa realidad en lugar de fingir que no existe.