En los márgenes de la economía digital, una nueva industria ha emergido sin nombre oficial ni regulación efectiva: la fabricación de identidades sintéticas a escala industrial. Jóvenes emprendedores estadounidenses orquestan miles de teléfonos y agentes de inteligencia artificial para poblar las redes sociales de personas que nunca han existido, moldeando silenciosamente lo que millones de usuarios perciben como tendencia, consenso u opinión espontánea. Es la vieja pregunta sobre la autenticidad humana replanteada en código: cuando la ilusión es perfecta, ¿deja de importar que sea ilusión?
La invasión silenciosa: cómo la IA fabrica influencers falsos para manipular redes
Millones de usuarios son engañados diariamente por perfiles sintéticos que manipulan su percepción de tendencias y consenso social sin su conocimiento o consentimiento.
Lo artificial se disuelve en lo auténtico hasta volverse indistinguible
Mark
¿Por qué funciona esto? ¿Por qué los algoritmos no detectan que estas cuentas son falsas?
Mimi
Porque el algoritmo no busca humanidad. Busca patrones de comportamiento. Si una cuenta se comporta como un humano durante dos semanas, el algoritmo la trata como tal. Scrollea, se aburre, interactúa. Es suficiente.
Mark
Pero ¿no hay algo que delate a estas cuentas? ¿Algún patrón que las distinga?
Mimi
Lakhani dice que puede crear cualquier perfil. Eso significa que ha resuelto el problema de la detección. O al menos, lo ha resuelto lo suficientemente bien como para que 6.000 empresas le paguen.
Mark
¿Cuál es el daño real aquí? Alguien ve un video sobre raquetas de tenis y compra una raqueta. ¿Dónde está el problema?
Mimi
El problema es que no sabe que está siendo manipulado. Cree que está viendo una tendencia genuina, un consenso real. Pero es una ilusión. Y cuando millones de personas ven ilusiones, empiezan a creer que son reales.
Mark
¿La regulación europea resuelve esto?
Mimi
No del todo. Puede exigir transparencia en contenido generado, pero ¿cómo etiquetas a un usuario que no existe? No puedes poner una advertencia en una cuenta falsa si la cuenta falsa es el punto entero.
Mark
Entonces, ¿qué hacemos?
Mimi
Esa es la pregunta que nadie puede responder todavía.
The Pulse
- Un joven de 21 años controla 4.200 móviles desde un dúplex en Los Ángeles, cada uno habitado por una identidad falsa que aprende a comportarse como humana ante los algoritmos de TikTok.
- Otro operador llegó a gestionar 65.000 cuentas simultáneas y publicar 50.000 vídeos diarios, convirtiendo la manipulación del consenso digital en una operación de escala industrial.
- Millones de usuarios toman decisiones de compra y forman opiniones creyendo que responden a tendencias reales, sin saber que esas tendencias fueron fabricadas por máquinas contratadas por marcas.
- La regulación europea de IA, vigente desde agosto de 2026, exige transparencia en contenido generado artificialmente, pero no ofrece respuesta clara a cómo etiquetar a un usuario que nunca existió.
- El fraude es estructuralmente invisible: no hay invasores reconocibles, solo perfiles diseñados para ser indistinguibles de personas reales navegando con intenciones genuinas.
En los márgenes de la economía digital, una nueva industria ha emergido sin nombre oficial ni regulación efectiva: la fabricación de identidades sintéticas a escala industrial. Jóvenes emprendedores estadounidenses orquestan miles de teléfonos y agentes de inteligencia artificial para poblar las redes sociales de personas que nunca han existido, moldeando silenciosamente lo que millones de usuarios perciben como tendencia, consenso u opinión espontánea. Es la vieja pregunta sobre la autenticidad humana replanteada en código: cuando la ilusión es perfecta, ¿deja de importar que sea ilusión?
En un dúplex de Los Ángeles, Zuhair Lakhani, de 21 años, alberga aproximadamente 4.200 teléfonos móviles. Cada uno opera bajo el control de un agente de inteligencia artificial que crea y anima perfiles en TikTok con suficiente precisión para engañar a los algoritmos de la plataforma. Durante semanas, estos perfiles simulan comportamiento humano: deslizan, se detienen, dan likes, comentan. El algoritmo no ve máquinas. Ve personas.
Lakhani afirma poder fabricar cualquier identidad: una ama de casa en Barcelona, un corredor en un pueblo de Girona, una joven migrante recién llegada a España. Más de 6.000 empresas pagan 450 dólares mensuales por sus servicios. El método es siempre el mismo: saturar cuentas nuevas de contenido temático hasta que el algoritmo las reconozca como espectadores legítimos, y entonces usarlas para promocionar productos ante audiencias reales. Lo artificial se disuelve en lo auténtico hasta volverse indistinguible.
Joe Lim, de 29 años, llevó este modelo aún más lejos con su empresa Floodify. En su momento de mayor actividad, gestionaba 65.000 cuentas falsas simultáneamente y publicaba hasta 50.000 vídeos diarios en TikTok, Instagram, YouTube y X, todos diseñados para parecer comentarios espontáneos de usuarios normales. El propio Lim estima que el 90% de lo que aparece en estas plataformas es publicidad encubierta.
La Unión Europea respondió con el artículo 50 del Reglamento de IA, en vigor desde el 2 de agosto de 2026, que exige transparencia en contenido generado artificialmente e impone obligaciones específicas para deepfakes y textos de IA sobre asuntos públicos. Pero la norma tropieza con una paradoja que no resuelve: ¿cómo se etiqueta a un usuario que no existe? La invasión es silenciosa precisamente porque no hay invasores visibles, solo perfiles, algoritmos y millones de personas navegando sin saber que lo que ven fue fabricado para moldear lo que piensan.
En un dúplex de Los Ángeles y en varios puntos dispersos por la ciudad californiana, Zuhair Lakhani, un joven de 21 años, alberga aproximadamente 4.200 teléfonos móviles. No son dispositivos ociosos. Cada uno de ellos funciona bajo el control de un agente de inteligencia artificial que crea perfiles en redes sociales, principalmente en TikTok, con una precisión que engaña a los algoritmos de la plataforma. Durante un par de semanas, estos perfiles simulan comportamiento humano: desplazan el dedo hacia arriba sin pausa, se detienen en ciertos contenidos, dan likes, escriben comentarios, comparten publicaciones, muestran aburrimiento. El algoritmo no ve máquinas. Ve personas.
Lakhani sostiene que puede fabricar cualquier identidad que le encarguen. Una ama de casa de 58 años en Barcelona. Un corredor de 37 años en Riudellots de la Selva. Una joven migrante marroquí que ha llegado exitosamente a España cruzando por Ceuta. Más de 6.000 empresas han pagado por sus servicios, desembolsando 450 dólares mensuales cada una. El propósito es siempre el mismo: vender. Cuando un cliente quiere promocionar raquetas de tenis, Lakhani crea cuentas nuevas, las satura de contenido sobre tenis, las hace interactuar con videos de tenis, hasta que el algoritmo las reconoce como espectadores legítimos del deporte. Entonces, cuando esas cuentas publican sobre raquetas, TikTok las distribuye a tenistas reales, algunos de los cuales compran. Lo artificial se disuelve en lo auténtico hasta volverse indistinguible.
Zuhair Lakhani no es un caso aislado. Joe Lim, un estadounidense de 29 años, dirigió una empresa llamada Floodify, cuyo nombre juega con la palabra inglesa flood, inundar. En su momento de mayor actividad, Floodify gestionaba 65.000 cuentas falsas simultáneamente en redes sociales. En un solo día, Lim asegura que podía publicar 50.000 videos en TikTok, Instagram, YouTube y X, todos diseñados para parecer comentarios espontáneos de usuarios normales que decidían hablar sobre algo específico. El alcance era industrial. El objetivo era el mismo: fabricar la apariencia de una tendencia, de un consenso, de una opinión compartida.
Estos dos emprendedores representan un fenómeno más amplio. Lim estima que el 90 por ciento de lo que aparece en TikTok, Instagram o X es publicidad encubierta. Donde están los ojos de millones de personas, allí está el mercado. El marketing más turbio y la propaganda han invadido silenciosamente las conversaciones de usuarios reales, intentando influir en sus opiniones sin que lo sepan. Los influencers sintéticos simulan tendencias. Los usuarios reales, creyendo que ven comportamiento genuino, toman decisiones de compra basadas en lo que es, en realidad, una ilusión orquestada.
La Unión Europea intentó responder a este problema. El 2 de agosto de 2026, entró en vigor el artículo 50 del Reglamento de IA europeo, que establece obligaciones de transparencia para los proveedores y responsables del despliegue de sistemas de inteligencia artificial. La norma exige que los sistemas generativos incorporen mecanismos para detectar contenido generado o manipulado artificialmente. Establece obligaciones específicas de información para deepfakes y ciertos textos creados por IA sobre asuntos de interés público. Pero hay un problema que la regulación no resuelve fácilmente: ¿cómo se etiqueta a un usuario que no existe? ¿Cómo se marca una cuenta que fue creada por una máquina para parecer humana cuando el objetivo es precisamente que parezca humana? La invasión es silenciosa porque no hay invasores visibles. Solo perfiles, algoritmos, y millones de personas navegando sin saber que lo que ven ha sido cuidadosamente fabricado para manipular lo que piensan.
Notable Quotes
Crearemos cuentas nuevas para ti en TikTok y las aclimataremos al nicho del tenis. Haremos que esas cuentas vean contenido de tenis, comenten cosas de tenis e interactúen con temas de tenis para que los algoritmos reconozcan a un espectador más de tenis— Zuhair Lakhani
El 90 por ciento de lo que uno ve en TikTok, Instagram o X es publicidad encubierta— Joe Lim
Want the full story?
Read the original at La Vanguardia ↗
World & Diplomacy