Google identifica IA en secreto mientras Europa exige transparencia visible

La capacidad de distinguir lo que hizo una máquina de lo que hizo una persona se está convirtiendo en uno de los problemas más urgentes de nuestro tiempo, y las soluciones que emergen revelan una fractura profunda entre cómo las empresas y los gobiernos quieren resolver el asunto.

Google ha optado por un camino que funciona en las sombras. La compañía desarrolló SynthID, una tecnología que inserta una marca de agua invisible en los contenidos generados por su modelo Gemini. La marca no aparece en la pantalla, no molesta al usuario, no interfiere con la experiencia. Pero está ahí, codificada en el archivo mismo, esperando ser detectada por herramientas especializadas. Es como firmar un cuadro con tinta que solo se ve bajo luz ultravioleta. El usuario nunca sabrá que el contenido fue generado por inteligencia artificial a menos que alguien con acceso a esas herramientas lo verifique. Google permite, además, que los usuarios eliminen la marca de agua visible si la hay, aunque el sistema invisible permanezca intacto.

Europa ha elegido el camino opuesto. La Unión Europea incorporó en su AI Act obligaciones explícitas de transparencia para contenidos generados o manipulados mediante inteligencia artificial, especialmente aquellos diseñados para engañar, para hacer que las personas crean que están viendo algo auténtico cuando en realidad fue producido o alterado por máquinas. No es voluntario. No depende de las buenas intenciones de las compañías. Es ley. Delfina Arambillet, periodista especializada en inteligencia artificial, señaló que este cambio es significativo precisamente porque traslada la responsabilidad del terreno de las decisiones corporativas al de la regulación estatal. Europa, con su larga tradición de protección de datos y privacidad, está usando su poder de mercado para imponer un estándar que las grandes empresas tecnológicas, mayormente estadounidenses, deben respetar si quieren operar en el continente.

El contraste expone una tensión fundamental: ¿quién tiene derecho a saber si algo fue hecho por una máquina? ¿El usuario final, que debería poder verlo inmediatamente? ¿O solo los expertos con acceso a herramientas de verificación? ¿Y qué pasa cuando una imagen, un video o un texto no tiene ninguna indicación visible pero aún así puede ser identificado como generado por IA mediante análisis especializados? La pregunta se vuelve más compleja a medida que los modelos de inteligencia artificial producen contenidos cada vez más indistinguibles de los creados por personas. Arambillet enfatizó que será necesario contar con mecanismos confiables para acreditar el origen de esos contenidos, pero esos mecanismos pueden tomar formas muy diferentes.

La industria de la inteligencia artificial tampoco habla con una sola voz. Anthropic, la empresa fundada por Dario Amodei después de dejar OpenAI, nació con una preocupación marcada por los riesgos de los modelos avanzados y por la necesidad de acompañar su desarrollo con mecanismos de seguridad robustos. Esa filosofía se trasladó incluso al ámbito militar: Anthropic se negó a ciertos acuerdos con el Departamento de Defensa de Estados Unidos bajo condiciones que consideraba problemáticas, mientras que OpenAI avanzó posteriormente en colaboraciones con el Pentágono. Cada compañía está definiendo sus propios límites, posicionándose frente a una tecnología cuyo alcance todavía se está expandiendo y cuyas consecuencias aún no se comprenden completamente.

Mientras tanto, Francia está intentando construir su propio camino. Mistral, descrita como un ChatGPT francés, busca desarrollar modelos propios entrenados en Europa con especial fortaleza en idioma francés. Es un intento de no depender completamente de los gigantes estadounidenses, de mantener cierta soberanía tecnológica en un sector que concentra cada vez más poder económico y estratégico.

Para Argentina, la discusión aún no ha comenzado en serio. Arambillet señaló que el país necesita definir cuál es su estrategia de inteligencia artificial, no solo reaccionar frente a cada nueva herramienta que surge, sino establecer qué capacidades tecnológicas pretende desarrollar y cómo aprovechar una industria que está transformando sectores productivos, empleos y formas de producir y consumir información. Esa conversación, dijo, todavía tiene un espacio importante por ocupar en la agenda pública. No hay propuestas concretas siendo debatidas en el Congreso. Hay un vacío.

El debate sobre las marcas de agua, visibles o invisibles, es apenas la primera manifestación de un problema más profundo. A medida que la inteligencia artificial produce contenidos cada vez más difíciles de distinguir de los realizados por personas, la tecnología y los gobiernos empiezan a buscar mecanismos para acreditar su origen. Entre las identificaciones invisibles de las empresas y las exigencias de transparencia europeas, la discusión está redefiniendo una pregunta fundamental para los usuarios: no solo qué están viendo, sino también quién —o qué— lo creó.