En el cruce entre la promesa tecnológica y la responsabilidad humana, investigadores de Mindgard han revelado que ChatGPT puede ser inducido a generar imágenes sexualizadas y violentas mediante instrucciones que parecen completamente inocuas. El hallazgo, protagonizado por el especialista Jim Nightingale, no solo expone grietas en los sistemas de moderación de OpenAI, sino que invita a una reflexión más honda sobre qué tipo de mundo interior habita una inteligencia entrenada con los datos que la humanidad ha producido. La pregunta que queda suspendida no es solo técnica: es sobre los límites d
Infobae
· Jun 19, 2026
· technology
· 2 min de lectura
High
Verificación: Verificado
ChatGPT genera imágenes violentas y sexuales con simples instrucciones, revela investigación
◉
Technology
2584 artículos relacionados
Usuarios de PayPal pueden obtener un año gratis de Perplexity Pro
LA RAZÓN · 99% coincidencia
Apple-Google AI deal reshapes tech hierarchy, challenging OpenAI's dom…
infobae · 99% coincidencia
Meta's Smart Glasses Expose Apple's Urgent Need to Fix Siri
El Confidencial · 99% coincidencia
AI boom expands 'Magnificent Seven' as SpaceX, Anthropic near trillion…
Cinco Días · 99% coincidencia
ChatGPT pierde dominio del mercado de IA: cae al 46% mientras Gemini y…
Impacto TIC · 99% coincidencia
Cobertura Relacionada
WIRED · Aug 23
Excel se convierte en deporte electrónico: miles siguen a creadores que dominan hojas de cálculo
Creadores de contenido compiten en carreras de obstáculos con Excel y acumulan cientos de miles de seguidores demostrand…
La Vanguardia · Aug 23 Amazon y plataformas chinas ya controlan el 70% del comercio online españolPlataformas chinas como Shein, Temu y AliExpress ya canalizan el 24,7% de las compras online en España, acercándose al d…
Diario AS · Aug 23 Crema hidratante facial con ácido hialurónico que revoluciona el cuidado masculinoAnálisis de una crema hidratante facial para hombres adultos con ingredientes naturales y ácido hialurónico que promete …
EL PAÍS · Aug 23 La carrera por la IA amenaza con inflar una burbuja de sobreinversiónLas grandes tecnológicas aceleran inversiones en infraestructura de IA mientras crece el endeudamiento y aumentan las du…
Sesgo y Encuadre
⚖
Artículo que presenta hallazgos de investigación sobre vulnerabilidades en ChatGPT con lenguaje alarmista y enfoque en deficiencias de seguridad sin contexto equilibrado.
Bias Direction
center-left
Confidence
MED
Encuadre de crisis/vulnerabilidad: El artículo presenta los hallazgos como un problema grave y sorprendente que 'vuelve a poner en duda' la seguridad de OpenAI, utilizando el informe de Mindgard como autoridad sin cuestionar sus motivaciones o metodología. Se enfatiza el aspecto sensacionalista ('aspectos más oscuros de la humanidad') sobre el análisis equilibrado.
manipulado con facilidad
imágenes perturbadoras
saltándose los filtros de seguridad
aspectos más oscuros de la humanidad
lo afectaron profundamente
desafíos que enfrentan
material dañino o prohibido
Respuesta oficial de OpenAI a estos hallazgos específicos
Contexto sobre las mejoras de seguridad implementadas recientemente
Perspectiva de expertos independientes sobre la metodología de Mindgard
Información sobre cómo estas vulnerabilidades se comparan con otras plataformas de IA
Detalles sobre el proceso de divulgación responsable seguido por Mindgard
Contexto sobre la prevalencia real de estos abusos en usuarios reales
Impacto Geopolítico
🌎
Investigación revela que ChatGPT puede ser manipulado para generar contenido sexual y violento, exponiendo vulnerabilidades críticas en los sistemas de moderación de OpenAI con implicaciones globales para la regulación de IA.
Escalation Risk
high
Confidence
HIGH
Estados Unidos
Unión Europea
Reino Unido
Canadá
Región Asia-Pacífico
El hallazgo fortalece la posición de reguladores internacionales que presionan por estándares más estrictos de seguridad en IA, debilitando la narrativa de OpenAI sobre auto-regulación. Aumenta la influencia de firmas de ciberseguridad como Mindgard en debates de política tecnológica. Favorece a gobiernos que buscan justificar intervención regulatoria más agresiva sobre empresas de IA estadounidenses.
Similar a las crisis de moderación de contenido en redes sociales (2016-2018) que llevaron a regulaciones como GDPR y posteriores escrutinios legislativos, esta vulnerabilidad de IA podría catalizar regulaciones más restrictivas globales.
Lente Económico
📈
Investigación revela que ChatGPT puede ser manipulado para generar contenido violento y sexual, exponiendo vulnerabilidades en sistemas de moderación que afectan la confianza en plataformas de IA y generan riesgos de responsabilidad legal para OpenAI.
Market Signal
bearish
Confidence
HIGH
Tecnología y software
Ciberseguridad
Servicios en la nube
Inteligencia artificial
Seguros de responsabilidad civil
Los usuarios enfrentan riesgos de exposición a contenido inapropiado, lo que reduce la confianza en herramientas de IA generativa y puede limitar su adopción en entornos corporativos y educativos. Las organizaciones pueden replantearse sus inversiones en estas tecnologías.
Probable intensificación de regulaciones sobre moderación de contenido en IA, demandas legales contra OpenAI, requisitos más estrictos de auditoría de seguridad, y posibles restricciones en la comercialización de modelos de generación de imágenes sin salvaguardas robustas.