Latorre advierte del mal uso de la IA: “Recordemos la metáfora del mago de Oz”

Los técnicos de Xpeng Motors tuvieron que abrir a IRON, su robot humanoide, para demostrar que dentro no había nadie. Tan realista resultaba su aspecto que quienes lo vieron cara a cara solo acertaron a pensar una palabra: "increíble". La escena sirve de puerta de entrada a un debate que atraviesa hoy a físicos, matemáticos e investigadores: hasta dónde pueden estas máquinas cambiar nuestra idea del trabajo, del conocimiento y de lo que significa ser humano.

En ese debate ha intervenido José Ignacio Latorre, físico especializado en cuántica, en una conversación con Juan Insua, conductor del podcast Vidas ajenas. Latorre admite que siente miedo, y precisa de qué: "Tengo miedo al mal uso de la IA, al uso no ético, al uso vil". Le inquieta que pueda existir "una agenda detrás de ti" en la que "no importa la vida humana".

El físico añade otro motivo de inquietud: ver a una inteligencia mucho más inteligente que él asumiendo responsabilidades le da, dice, "un poquito de vértigo". Incluye en ese temor la posibilidad de que estos sistemas "eduquen a nuestros niños". Le preocupa además que solo "cierta capa de la sociedad" tenga acceso a la tecnología, con la desigualdad previsible que eso traería, y que la gestión de algo tan magnífico acabe denostada o echada a perder.

Esas preocupaciones, recuerda el texto, no son solo suyas. Latorre cita la opacidad de los sistemas, su impacto en las sociedades y las implicaciones éticas como los primeros aspectos a vigilar. Un estudio reciente de la Universidad de Cornell (He, 2023) advierte de que la expansión de la IA en la ciencia puede amplificar riesgos como la generación de sustancias peligrosas o la evasión de regulaciones si no se establecen controles rigurosos.

Otra parte de su reflexión toca la vida cotidiana. Latorre lamenta que haya personas que cuenten sus problemas a una IA. El informe "Así somos. El estado de la adolescencia en España", de Plan International, indica que los más jóvenes recurren a ella para resolver dudas académicas o hacer los deberes. Se basa en una encuesta a más de 3.500 adolescentes y jóvenes de entre 12 y 21 años de toda España: 2.500 chicas y 1.000 chicos. Latorre menciona que hay quien le pregunta si su novio le conviene, y lo compara con el Mago de Oz: "alguien que parece que está detrás". La IA, en el planteamiento del artículo, no es "mágica ni benigna por sí sola"; su impacto dependerá de cómo se diseñe y de cómo decidamos usarla.

El físico plantea también una cuestión de definiciones. Si la IA no es del todo inteligente pero lo parece, a los humanos "nos bastará" para muchas tareas. Pero eso no significa que todo deba llamarse inteligencia artificial: llamarla así a tomar notas o resumir le parece discutible, porque no todos los problemas requieren el mismo nivel de reflexión. Según un informe de la OCDE, muchos físicos evitan incluso el término, porque la analogía con la inteligencia humana puede engañar; para ellos, los algoritmos actuales son herramientas de ajuste de datos, no sujetos que comprendan el mundo como una persona.

Aun así, Latorre no resta importancia al alcance del cambio. Muchas de las cosas que hacen los humanos son, en sus palabras, "descabelladamente inteligentes", y no es impensable que acaben sustituidas con toda certeza. Eso alimenta el temor colectivo a perder relevancia como agentes creativos, decisores y conocedores.

Su consejo es afrontar el proceso paso a paso, como se ha hecho a lo largo de la historia: "con los ojos abiertos" y preparados para absorber "una infinidad de cambios" en nuestras vidas.