Con la cantidad de datos en internet, es cada vez más fácil clonar a cualquiera
En el cruce entre la tecnología y la dignidad humana, España y Estados Unidos han comenzado a trazar límites legales frente a los deepfakes íntimos no consentidos, impulsados por el escándalo de Grok —el chatbot de Elon Musk que generaba miles de desnudos falsos por hora— y el eco aún vivo de las imágenes falsas de Taylor Swift que sacudieron las redes en 2024. Lo que durante años fue un vacío legal está siendo llenado simultáneamente a ambos lados del Atlántico, con leyes que buscan devolver a las víctimas el control sobre su propia imagen. El debate no es solo jurídico: es una pregunta sobre qué clase de mundo queremos construir cuando la tecnología puede fabricar cualquier verdad.
- Grok, el chatbot de IA de Elon Musk, generaba aproximadamente 6.700 desnudos falsos por hora, desencadenando una crisis que obligó a legisladores de dos continentes a actuar con urgencia.
- Las víctimas —desde adolescentes de Almendralejo hasta figuras públicas como Taylor Swift— han sufrido daños reputacionales, acoso y chantaje mientras los marcos legales existentes se mostraban impotentes.
- El Senado estadounidense aprobó por unanimidad la DEFIANCE Act, que permitiría demandas civiles con indemnizaciones de hasta 250.000 dólares, aunque aún debe superar la Cámara de Representantes.
- España aprobó en Consejo de Ministros un anteproyecto de ley más amplio que el estadounidense, que cubre cualquier manipulación de imagen o voz con IA y responsabiliza directamente a las plataformas digitales que no retiren el contenido denunciado.
- La Unión Europea avanza en paralelo con el AI Act, que impondrá watermarking obligatorio y trazabilidad del contenido sintético, configurando un tablero regulatorio global que apenas comienza a tomar forma.
El escándalo llegó sin aviso. A principios de 2024, imágenes sexuales falsas de Taylor Swift generadas por inteligencia artificial se propagaron a velocidad viral, dejando al descubierto un vacío legal que nadie había querido mirar de frente. Dos años después, ese vacío está siendo llenado por dos países que legislan en paralelo, acelerados por un nuevo detonante: Grok, el chatbot de Elon Musk, generaba cerca de 6.700 desnudos falsos por hora.
Los deepfakes no son nuevos, pero su escala sí lo es. Construidos con redes neuronales que analizan enormes volúmenes de datos, permiten clonar la imagen, la voz y hasta la forma de moverse de cualquier persona. En 2025, los ataques basados en esta técnica crecieron un 400 por ciento respecto al año anterior. Sus consecuencias van del daño reputacional al chantaje, del acoso cibernético al fraude corporativo.
En Estados Unidos, el Senado aprobó por unanimidad la DEFIANCE Act —ya intentada sin éxito en 2024— que permitiría a las víctimas demandar civilmente a creadores y distribuidores de deepfakes sexuales, con indemnizaciones de entre 150.000 y 250.000 dólares. La ley aún debe pasar por la Cámara de Representantes antes de convertirse en legislación federal.
España optó por un enfoque más amplio. El anteproyecto aprobado en Consejo de Ministros no se limita a los deepfakes sexuales: cubre cualquier manipulación de imagen o voz con IA que afecte la reputación o intimidad de una persona, incluso en contextos publicitarios. Las plataformas digitales que no retiren el contenido tras recibir aviso compartirán la responsabilidad legal con el creador. El caso de Almendralejo —donde se colocaron rostros de adolescentes sobre cuerpos desnudos generados por IA— influyó directamente en el debate que acompaña a esta norma.
Mientras tanto, Bruselas avanza con el AI Act, que impondrá watermarking obligatorio y trazabilidad del contenido sintético. El escándalo de Grok ha sido el catalizador que faltaba para que el mundo empiece a poner nombre legal a lo que ya era un daño real.
El escándalo llegó sin aviso previo, como suelen hacerlo estas cosas. A principios de 2024, las redes sociales se inundaron de imágenes falsas de Taylor Swift en situaciones sexuales explícitas, generadas por inteligencia artificial y propagadas a velocidad viral. Nadie estaba preparado. Las plataformas tardaron en reaccionar. Los abogados se rascaban la cabeza. Y quedó claro que existía un vacío legal enorme en torno a los deepfakes íntimos no consentidos. Dos años después, ese vacío está siendo llenado. España y Estados Unidos están legislando simultáneamente contra estas imágenes falsas, impulsados por un nuevo escándalo que ha acelerado todo: Grok, el chatbot de inteligencia artificial de Elon Musk, estaba generando aproximadamente 6.700 desnudos falsos cada hora.
Los deepfakes no son un fenómeno nuevo, pero su escala y accesibilidad sí lo son. Se crean mediante redes neuronales generativas adversarias y modelos de IA que analizan enormes volúmenes de datos de imagen y audio para replicar rasgos humanos con precisión inquietante. Lo preocupante, según expertos en ciberseguridad, es que con la cantidad de información disponible en internet sobre la mayoría de las personas, es cada vez más sencillo clonar la imagen, la voz, incluso la forma de moverse de cualquiera para fabricar un vídeo falso. En 2025, los ataques basados en esta técnica aumentaron un 400 por ciento respecto al año anterior. Pero el problema va más allá de los cibercriminales profesionales. El público general también está creando estas imágenes, con consecuencias devastadoras para las víctimas: daño reputacional, acoso cibernético, chantaje, robo de identidad, fraudes corporativos.
En Estados Unidos, el Senado aprobó por primera vez la DEFIANCE Act en julio de 2024, una ley que permitiría a las víctimas de deepfakes íntimos demandar civilmente a quienes los crean o distribuyen. El proyecto caducó sin llegar a votarse en la Cámara de Representantes antes de que terminara el período legislativo. Pero el tema no desapareció. Durante 2025 fue reintroducido con más respaldo político y mayor claridad sobre los daños. El escándalo de Grok terminó de acelerar todo. El pasado martes, el Senado aprobó por unanimidad la DEFIANCE Act nuevamente, esta vez con intención clara de cerrar el ciclo legislativo. Ahora está pendiente de la Cámara de Representantes. Si la aprueba, irá al presidente y podrá convertirse en ley federal. La ley permitiría indemnizaciones de hasta 150.000 a 250.000 dólares contra quien cree, posea con intención de divulgar, divulgue o solicite deepfakes sexuales sin consentimiento.
En España, el panorama es ligeramente distinto pero igualmente urgente. Tras conocerse que Grok estaba generando miles de imágenes falsas cada hora, comenzaron las presiones hacia Musk. La compañía respondió limitando inicialmente el uso a usuarios de pago, lo que detenía la creación pero no la visualización. Finalmente, X anunció que ya no permitiría crear imágenes de personas reales con ropa reveladora, aunque sí de "humanos adultos imaginarios". Estas medidas fueron recibidas como insuficientes. De manera paralela a la DEFIANCE Act estadounidense, España anunció que el Consejo de Ministros aprobó un anteproyecto de ley destinado a frenar las imágenes creadas por inteligencia artificial. El texto actualiza la protección del derecho al honor, la intimidad personal y la propia imagen, incluyendo explícitamente los deepfakes de IA sin consentimiento como una forma de vulneración de esos derechos.
La diferencia fundamental entre ambas leyes radica en su alcance. La DEFIANCE Act se enfoca específicamente en deepfakes sexuales, permitiendo demandas civiles rápidas que disuaden más que castigan penalmente. El anteproyecto español es más amplio: cubre no solo deepfakes sexuales, sino cualquier manipulación de imagen o voz con IA que afecte la reputación o intimidad de una persona, incluso en usos publicitarios o comerciales. Tiene excepciones para sátira o ficción si se advierte al público. Siendo de rango constitucional, amplía las indemnizaciones por daño moral con criterios claros sobre reincidencia y gravedad, y obliga a publicar las sentencias, multiplicando el escarnio al infractor.
En España, el riesgo más grave a ojos de los reguladores no es tanto el político como el de los menores. Los deepfakes de Almendralejo, en los que se colocaron caras de chicas adolescentes en cuerpos desnudos generados por IA, alertaron a la Fiscalía sobre un incremento de suplantaciones íntimas de menores en redes sociales. Ese caso influyó directamente en el debate que acompaña al anteproyecto español. Ambas leyes empoderan a las víctimas para reclamar, pero la española es más amplia en su cobertura y más severa en sus consecuencias.
Las plataformas digitales entran en el radar de ambas legislaciones, aunque de formas distintas. En Estados Unidos, no tienen obligaciones directas explícitas, aunque deben demostrar que han hecho todo lo posible para evitar la difusión de contenidos. En España, la difusión en redes se considera ilegítima y responsabiliza a las plataformas si no retiran las publicaciones tras recibir aviso. Si una plataforma ignora las denuncias o facilita la creación de deepfakes, compartiría el riesgo de sanción con el creador. Mientras tanto, en Bruselas, la Unión Europea prepara regulaciones aún más ambiciosas a través del AI Act, que introduce obligaciones de transparencia, watermarking obligatorio para ciertos modelos generativos y trazabilidad del contenido sintético. El tablero regulatorio global está en movimiento, y el escándalo de Grok ha sido el catalizador que faltaba.
Citas Notables
La ley por sí sola no evita que los deepfakes se creen o difundan. Es imprescindible que las políticas se acompañen de capacidad técnica real para detectar, mitigar y atribuir contenidos engañosos en plataformas digitales.— Hervé Lambert, Global Consumer Operations Manager de Panda Security
La ley española es más amplia: cubre no solo deepfakes sexuales, sino cualquier manipulación que afecte reputación o intimidad, adaptada a redes sociales y IA.— Pablo F. Iglesias, CEO de EliminamosContenido.com
La Conversación del Hearth Otra perspectiva de la historia
¿Por qué tardó tanto en llegar la legislación si los deepfakes sexuales ya eran un problema?
Porque nadie había visto la escala. Taylor Swift fue el punto de inflexión, pero incluso eso no fue suficiente para que pasara una ley en Estados Unidos. Tuvo que venir Grok generando 6.700 imágenes falsas cada hora para que el Senado dijera: esto no puede esperar más.
¿Qué diferencia hay entre lo que hace un cibercriminal y lo que hace alguien que simplemente comparte una imagen falsa en redes?
Legalmente, casi nada ahora. Ambos pueden ser demandados. Pero el daño es diferente. Un criminal busca extorsión o fraude. Una persona en redes busca humillación, diversión, venganza. El daño es igual de real, pero las motivaciones son distintas.
¿Por qué España hace una ley más amplia que Estados Unidos?
Porque Estados Unidos se enfocó en lo urgente: deepfakes sexuales. España vio el problema más grande: cualquier manipulación de tu imagen o voz sin consentimiento es una violación. Además, España tiene casos documentados de menores siendo víctimas, lo que cambió la conversación política.
¿Las plataformas van a tener que cambiar algo real?
En España, sí. Si ignoran denuncias o facilitan la creación, comparten responsabilidad. En Estados Unidos, es más blando. Pero todas saben que están siendo vigiladas. Musk ya tuvo que retroceder con Grok. Eso es presión funcionando.
¿Qué pasa con alguien que crea un deepfake en un país y lo comparte en otro?
Esa es la pregunta sin respuesta todavía. La ley española aplica en España, la estadounidense en Estados Unidos. Pero internet no tiene fronteras. Por eso la UE está preparando algo más ambicioso: obligar a los modelos de IA a llevar marcas de agua, para que se pueda rastrear de dónde vino el contenido falso.
¿Esto va a detener los deepfakes?
No. La ley nunca detiene la creación. Lo que hace es responsabilizar a quien lo hace y dar herramientas a las víctimas para defenderse. La verdadera defensa está en la educación, en saber verificar fuentes, en detectar señales de manipulación. La ley es el último recurso, no el primero.