xAI demanda a Minnesota por ley que prohíbe tecnología de desnudez digital

La empresa xAI de Elon Musk presentó una demanda federal contra Minnesota el lunes, días antes de que entrara en vigor una ley histórica que convierte al estado en el primero de Estados Unidos en prohibir la tecnología de desnudez digital. La norma, promulgada en mayo, busca ilegalizar el uso de inteligencia artificial para crear imágenes falsas de desnudos de personas reales sin su consentimiento, una práctica cada vez más extendida que ha generado alarma en gobiernos de todo el mundo.

En su demanda de 38 páginas, xAI —cuyo generador de imágenes Grok funciona en X y otras plataformas— no cuestiona el objetivo legítimo de Minnesota de proteger a las personas de este tipo de contenido. Sin embargo, argumenta que la ley va demasiado lejos. La compañía sostiene que la definición de "parte íntima" es excesivamente amplia, abarcando partes del cuerpo que se muestran habitualmente en público. También señala que la norma sanciona imágenes que fueron creadas con consentimiento o incluso por la propia persona retratada, y que impone multas de 500 mil dólares por cada infracción sin ofrecer un "puerto seguro" para empresas que actúen de buena fe.

La demanda llega en un momento de tensión creciente entre las grandes tecnológicas y los reguladores estatales. A diferencia de otras leyes sobre deepfakes que castigan a quienes crean el contenido ilícito, la ley de Minnesota apunta directamente a los fabricantes de las herramientas. Una ley similar en California fue bloqueada por tribunales que la consideraron una violación de la Primera Enmienda. Minnesota, sin embargo, ha logrado que su ley sobreviva a un desafío judicial anterior presentado por la empresa de Musk en 2025.

xAI sostiene que ya implementa controles significativos. Los términos de servicio de Grok prohíben usar la plataforma para crear contenido que viole la privacidad de alguien, incluidas imágenes sexualmente explícitas no consentidas. La empresa dice que hace cumplir estas reglas mediante suspensiones y cancelaciones de cuentas, y que reporta contenido sospechoso de abuso sexual infantil. A principios de este año, tras una reacción mundial por la circulación de imágenes sexualizadas de mujeres y niños, xAI anunció que implementaría bloqueos geográficos y restricciones técnicas para impedir que usuarios editen fotos de personas reales con ropa reveladora en jurisdicciones donde eso sea ilegal.

Keith Ellison, fiscal general de Minnesota, rechazó los argumentos de xAI. Aunque indicó que aún no había recibido formalmente la demanda, fue claro en su posición: generar imágenes de desnudos mediante IA contra la voluntad de alguien es "espantoso". Ellison enfatizó que este tipo de contenido "le arrebata la dignidad al objetivo" y puede causar daño emocional, personal y profesional inmenso, particularmente a mujeres y niños. Para el fiscal general, no hay debate válido aquí: la protección de la dignidad humana debe prevalecer sobre otras consideraciones.

La batalla legal que se aproxima refleja una pregunta más amplia sobre los límites de la regulación estatal en la era de la inteligencia artificial. Mientras Minnesota intenta establecer un precedente restrictivo, otras jurisdicciones aún están calibrando cómo responder a una tecnología que evoluciona más rápido que la capacidad de los gobiernos para legislar. La ley federal Take it Down Act, aprobada el año pasado, requiere que sitios web y aplicaciones implementen procesos para retirar imágenes de desnudez generada por IA, pero deja abierta la cuestión de si los fabricantes de herramientas pueden ser responsabilizados directamente. Minnesota está intentando responder esa pregunta de manera más agresiva que cualquier otro estado, y los tribunales federales pronto tendrán que decidir si eso es constitucional.