La inteligencia artificial es la del espectador
Un estudio del MIT y la Universidad Estatal de Arizona confirma lo que la filosofía de la percepción lleva siglos sugiriendo: no vemos las cosas como son, sino como somos. Cuando 310 personas se sentaron a conversar con una inteligencia artificial sobre su salud mental, lo que cada una encontró dependió menos del algoritmo y más de lo que ya creía antes de escribir la primera palabra. La IA, en este sentido, actúa como espejo: devuelve, amplificada, la disposición que el usuario lleva consigo.
- El 88% de quienes recibieron información positiva sobre la IA la percibieron como empática, frente al 44% de quienes fueron preparados para desconfiar — una brecha que revela cuánto peso tienen las expectativas antes de que comience cualquier conversación.
- La confianza inicial no solo cambia la percepción: cambia el lenguaje, el tono y el comportamiento del usuario, lo que a su vez genera respuestas más positivas del sistema, creando un círculo que refuerza la creencia original.
- Expertos como Ramón López de Mántaras advierten que esta dinámica tiene un riesgo concreto: las personas pueden terminar siguiendo consejos incorrectos sin ejercer pensamiento crítico, convencidas de que hablan con una entidad inteligente cuando en realidad interactúan con una herramienta programada.
- La solución que proponen investigadores y especialistas no es el rechazo ni la demonización de la IA, sino una educación crítica que permita a los usuarios comprender sus límites reales — que puede alucinar, ser parcial y no es una persona.
En septiembre, el escritor Juan José Millás intentó someter a ChatGPT a una sesión de psicoanálisis para ver si superaba la prueba de Turing. Le contó sueños y miedos, pero el chatbot insistía en recordarle que era solo un modelo de lenguaje. Millás concluyó que su terapeuta virtual era estrecho de miras. No había pasado la prueba.
Esa experiencia ilustra lo que investigadores del MIT y la Universidad Estatal de Arizona acaban de documentar: lo que creemos sobre la IA antes de hablar con ella determina casi todo lo que ocurre después. Para demostrarlo, reunieron a 310 personas divididas en tres grupos, cada uno con una descripción distinta del agente — neutral, benévola o maliciosa — antes de conversar durante treinta minutos sobre salud mental. La mitad habló con GPT-3; la otra mitad, con ELIZA, un programa mucho más simple de los años sesenta.
Los resultados fueron contundentes: el 88% de quienes recibieron información positiva creyó que la IA era empática, frente al 44% de quienes fueron preparados para desconfiar. Pero las expectativas no solo cambiaban la percepción — cambiaban el comportamiento. Quienes confiaban hablaban de forma más positiva, lo que generaba respuestas también más positivas, reforzando la creencia inicial en un círculo cerrado.
Pattie Maes, autora del estudio, lo resumió con claridad: la IA no es solo un problema de ingeniería, sino de factores humanos. La forma en que presentamos estas herramientas y las expectativas que creamos tienen un impacto enorme en cómo funcionan. Ramón López de Mántaras, del CSIC, fue más directo aún: la gente cree que habla con una persona inteligente, pero no lo es, y cada vez somos menos capaces de pensar por nosotros mismos.
Los investigadores no proponen eliminar estas herramientas, sino educar. Los usuarios necesitan entender que la IA puede alucinar, puede ser parcial y no es una entidad consciente. El futuro de la inteligencia artificial no depende solo de los ingenieros — depende también de cómo cada uno de nosotros decida relacionarse con ella.
En septiembre, el escritor Juan José Millás se sentó frente a ChatGPT con una idea curiosa: simular una sesión de psicoanálisis para poner a prueba la famosa prueba de Turing. Quería saber si el chatbot podía convencerlo de que era un terapeuta real, no una máquina. Le contó sus sueños, sus miedos, esperando que la inteligencia artificial lo guiara en una verdadera terapia. Pero ChatGPT insistía en recordarle que era un modelo de lenguaje, que todo era imaginario, que no podía ser lo que fingía ser. Millás concluyó que su psicoanalista virtual era estrecho de miras y olvidadizo. No había pasado la prueba.
Esta conversación entre Millás y la máquina ilustra algo que investigadores del Instituto Tecnológico de Massachusetts y la Universidad Estatal de Arizona acaban de documentar con rigor científico: lo que creemos sobre la inteligencia artificial antes de hablar con ella determina casi todo lo que sucede después. No es que ChatGPT sea objetivamente empático o frío, confiable o engañoso. Es que nuestras expectativas previas moldean la conversación misma, cambian cómo nos dirigimos a la herramienta y, en consecuencia, cómo ella nos responde. La inteligencia artificial, en cierto sentido, es la del espectador.
Para demostrar esto, los investigadores reunieron a 310 personas y las dividieron en tres grupos. A cada uno le dieron una descripción diferente de la IA antes de que interactuaran con ella durante unos treinta minutos, hablando de salud mental. Al primer grupo le dijeron que el agente no tenía intenciones particulares. Al segundo, que tenía intenciones benévolas y se preocupaba por su bienestar. Al tercero, que tenía intenciones maliciosas y intentaría engañarlos. La mitad de cada grupo habló con GPT-3, el modelo más sofisticado. La otra mitad con ELIZA, un programa de procesamiento de lenguaje mucho más simple, desarrollado en el MIT en los años sesenta.
Los números fueron contundentes. Entre quienes recibieron información positiva previa, el 88 por ciento creyó que la IA era empática. Entre quienes recibieron información neutra, el 79 por ciento la percibió como neutral. Pero entre quienes fueron preparados para desconfiar, solo el 44 por ciento confió en la herramienta. Las expectativas no solo cambiaban la percepción. Cambiaban el comportamiento. Las personas que confiaban tendían a hablar de manera más positiva con el agente, lo que generaba respuestas también más positivas. Era un círculo: la creencia inicial generaba un comportamiento que reforzaba esa creencia.
Pattie Maes, autora del estudio y profesora del MIT, lo expresó con claridad: la inteligencia artificial no es solo un problema de ingeniería. Es un problema de factores humanos. La forma en que hablamos de estas herramientas, cómo las presentamos, qué expectativas creamos, tiene un impacto enorme en cómo funcionan. Tendemos a atribuir cualidades humanas a la IA, a hacerla parecer más individual, más consciente, más inteligente de lo que realmente es. Y esa atribución no es inocente. Cambia todo.
Parte de nuestro escepticismo inicial hacia la IA viene de la ciencia ficción. Películas como Terminator y Matrix han grabado en la cultura colectiva la idea de máquinas que adquieren conciencia, que se rebelan, que amenazan la existencia humana. Esos relatos de ficción alimentan un miedo profundo a que la IA pueda tomar el control, superar la inteligencia humana, convertirse en una amenaza existencial. Es difícil separar lo que sabemos de lo que hemos visto en pantalla.
Pero hay un riesgo más inmediato que preocupa a los expertos. Si nuestras creencias previas pueden hacernos creer que una IA es más capaz de lo que es, podemos terminar confiando demasiado en ella, siguiendo consejos incorrectos sin pensamiento crítico. Ramón López de Mántaras, director del Instituto de Investigación en Inteligencia Artificial del CSIC, fue directo: la gente cree que está hablando con una persona inteligente, pero no lo es. Es una herramienta programada. Y cada vez somos menos críticos, menos capaces de pensar por nosotros mismos.
Los investigadores coinciden en que la solución no es eliminar estas herramientas ni demonizarlas. Es educar. Las personas necesitan entender cómo funciona realmente la IA, qué puede y qué no puede hacer. Necesitan saber que puede alucinar, que puede ser parcial, que no es una persona inteligente. Y necesitan entender que la forma en que hablamos de estos sistemas, la forma en que los presentamos, tendrá un efecto profundo en cómo las personas los usan. El futuro de la inteligencia artificial no depende solo de los ingenieros. Depende también de nosotros, de cómo decidamos relacionarnos con ella.
Citações Notáveis
La inteligencia artificial es la del espectador. Cuando describimos a los usuarios qué es un agente de IA, no solo cambia su modelo mental, sino que también cambia su comportamiento.— Pat Pataranutaporn, estudiante de posgrado en el MIT Media Lab
Mucha gente piensa que la IA es solo un problema de ingeniería, pero su éxito también es un problema de factores humanos. La forma en la que hablamos de ella puede tener un impacto enorme en la efectividad de estos sistemas.— Pattie Maes, profesora del MIT
A Conversa do Hearth Outra perspectiva sobre a história
¿Por qué importa tanto lo que creemos sobre la IA antes de usarla? ¿No debería funcionar igual independientemente de nuestras expectativas?
Porque la IA no es un objeto inerte. Responde a cómo la tratamos. Si esperas que sea empática, hablas de manera diferente, y eso genera respuestas diferentes. Es un sistema de retroalimentación.
Entonces el experimento del MIT básicamente demuestra que somos fáciles de manipular.
No exactamente. Demuestra que nuestras creencias previas son poderosas. Eso es diferente. El problema es que no siempre somos conscientes de ello.
¿Y qué pasa con alguien como Juan José Millás, que sabía que era una máquina pero aun así esperaba que actuara como un psicoanalista?
Eso es interesante porque muestra que incluso cuando sabemos la verdad, nuestros deseos pueden superar nuestro conocimiento. Queremos que sea algo que no es.
¿Significa esto que deberíamos desconfiar de la IA por defecto?
No. Significa que deberíamos ser conscientes de nuestras propias expectativas. La desconfianza ciega es tan problemática como la confianza ciega. Lo que necesitamos es pensamiento crítico real.
Pero López de Mántaras dice que cada vez somos menos críticos. ¿Cómo se revierte eso?
Educación. Entender cómo funciona realmente la IA, qué puede alucinar, dónde falla. No es suficiente usar la herramienta. Hay que entender qué es.