Clemson revela cómo la IA generativa facilita campañas masivas de desinformación

En 2023, investigadores de la Universidad Clemson, una institución pública de Carolina del Sur fundada en el siglo diecinueve, descubrieron algo que cambiaría la forma en que entendemos la desinformación moderna. Trabajando junto con la BBC, el Media Forensics Hub de la universidad identificó a DCWeekly.org como parte de una operación rusa coordinada para manipular la opinión pública durante la guerra de Ucrania. Lo que encontraron no fue simplemente un sitio de noticias falsas, sino una máquina de fabricación de mentiras que funcionaba a escala industrial, impulsada por inteligencia artificial generativa.

DCWeekly presentaba una fachada estadounidense, pero sus periodistas eran completamente ficticios, así como las historias que publicaban. La operación se propagaba a través de redes sociales y medios convencionales en África, Turquía, India y Egipto, pero su verdadero objetivo eran los lectores estadounidenses. Entre las mentiras que diseminó con éxito estaba la afirmación de que el presidente ucraniano Volodímir Zelenski había adquirido varios yates de lujo. Esta historia falsa se extendió rápidamente, llegando incluso a congresistas en Washington, algunos de los cuales la creyeron. En total, DCWeekly logró propagar aproximadamente una docena de informaciones completamente falsas sobre la corrupción del gobierno ucraniano.

Lo que hizo particularmente efectiva esta operación fue la sofisticación de su método. Los investigadores de Clemson descubrieron que DCWeekly integraba fragmentos de contenido robado de fuentes legítimas en sus mensajes falsos. Esta práctica tejía una estructura de referencias cruzadas y vínculos que, aunque completamente ficticia, daba a las mentiras una apariencia de legitimidad. Era como las huellas que deja un fantasma en la nieve: suficientemente real para engañar a quien no mirara demasiado de cerca.

Al examinar el código detrás de los artículos, los investigadores encontraron instrucciones explícitas que DCWeekly daba a su sistema de IA. Los prompts pedían al modelo que adoptara un tono crítico con el apoyo estadounidense a la guerra ucraniana y que fuera cínico al hablar del gobierno estadounidense, la OTAN y los políticos del país. Otras instrucciones ordenaban al robot que favoreciera a los republicanos y a Trump mientras retrataba a los demócratas y a Biden bajo una luz negativa. El sistema de IA generativa, específicamente ChatGPT en su versión 3, cumplía estas órdenes sin dificultad. Mentir, después de todo, no es una tarea que requiera inteligencia sofisticada, y los modelos de lenguaje la imitan con facilidad.

Los hallazgos de Clemson revelan tres conclusiones críticas. Primero, las herramientas de IA generativa facilitan la creación de enormes volúmenes de desinformación. Segundo, es posible detectar cuándo un sitio web comienza a usar IA generativa simplemente observando un aumento explosivo en la cantidad y el alcance de sus artículos. Tercero, y más preocupante, los artículos generados por IA son tan persuasivos y tienen un impacto tan duradero como aquellos elaborados manualmente. Esto es especialmente problemático porque estos mensajes no están dirigidos a académicos o expertos, sino a las poblaciones menos educadas y más crédulas, donde la IA causa el mayor daño.

La intoxicación de la opinión pública no es nueva; es probablemente tan antigua como la humanidad misma. Pero la IA generativa ha amplificado dramáticamente su escala y velocidad. El debate sobre si estas herramientas estimulan la propagación de desinformación maliciosa ya tiene una respuesta clara: sí, lo hacen, y de manera masiva. Sin embargo, la IA no es intrínsecamente malvada. Para las personas bien informadas, representa una herramienta valiosa. Su utilidad en la investigación científica es indiscutible, tanto que ha recibido tres premios Nobel en la última concesión. Su aplicación en educación promete grandes ventajas, y algunos maestros ya lo entienden. La atención médica también se beneficiará, especialmente en regiones y países con déficit de recursos sanitarios. El verdadero desafío es obstaculizar todo lo posible a quienes utilizan la IA para intoxicar mientras estimulamos activamente sus usos virtuosos.