Un estudio con resonancia cerebral sugiere que los chatbots de IA no procesan el significado como el cerebro humano

Treinta personas se tumbaron en un escáner de resonancia magnética de 7 teslas, una tecnología de mayor resolución que la que suele haber en los hospitales, y leyeron 108 oraciones. No eran frases cualquiera: habían sido diseñadas para un experimento que buscaba responder una pregunta concreta sobre los chatbots de inteligencia artificial. El resultado, publicado en la revista científica eLife, es que los modelos de lenguaje que impulsan a ChatGPT, Gemini o Claude no representan el significado de las oraciones del mismo modo que el cerebro humano, aunque produzcan textos fluidos y coherentes.

El trabajo lleva la firma de James Fodor y Carsten Murawski, de la Universidad de Melbourne, y de Shinsuke Suzuki, de la Universidad Hitotsubashi de Japón. Los investigadores compararon la actividad cerebral de los participantes con las representaciones internas de ocho modelos de lenguaje basados en la arquitectura transformer, la misma que usan los principales chatbots comerciales.

La duda de fondo era si esos sistemas combinan el significado de las palabras con el orden en que aparecen, como hace el cerebro, o si solo procesan el significado de cada palabra por separado. Para aislar ese efecto, el equipo construyó oraciones con casi las mismas palabras cuyo sentido cambia según el orden, por ejemplo al invertir quién realiza una acción y quién la recibe. Según el artículo, estudios anteriores con textos naturales no habían logrado separar con claridad la estructura gramatical del simple contenido de cada palabra.

Los ocho modelos superaron a un modelo básico que ignora por completo el orden de las palabras. Aun así, su desempeño general al predecir la actividad cerebral fue bajo y claramente inferior al de un modelo diseñado para representar de forma explícita las relaciones estructurales, es decir, quién hace qué a quién. Ese modelo, que combina información léxica con una representación explícita de la estructura gramatical, obtuvo el mejor ajuste con los datos cerebrales.

El problema se concentró en las oraciones con roles semánticos invertidos, como una en la que se intercambia quién muerde y quién es mordido. Los ocho modelos tendieron a considerarlas más parecidas entre sí de lo que las juzgaron los participantes humanos, y la misma diferencia apareció al compararlos con los patrones de actividad cerebral. Los autores atribuyen esto a que el cerebro parece dar un peso central a la función de cada palabra en la oración, y no solo a su significado aislado.

La consistencia del patrón en modelos de distintos tamaños y arquitecturas llevó a los autores a descartar que se debiera a las limitaciones de un sistema en particular. "Los resultados ponen en duda la afirmación de que los transformadores representan el significado de las oraciones de manera similar al cerebro humano", señala el artículo. Murawski explicó en una publicación profesional que, aunque los modelos logran imitar el uso del lenguaje humano, podrían estar pasando por alto aspectos centrales de cómo las personas comprenden lo que leen.

El estudio no niega que estos sistemas puedan identificar la estructura gramatical cuando se les pide explícitamente; investigaciones previas ya habían mostrado que detectan información sintáctica en sus capas internas. La diferencia, dicen los autores, es que esa información no se integra de forma espontánea con el significado de las palabras para formar una representación unificada de la oración, como ocurre en el cerebro.

eLife, que somete sus artículos a revisión por pares y publica la evaluación editorial junto al texto, calificó los hallazgos de "valiosos" y respaldados por un análisis "sólido". El trabajo se suma al debate en ciencia cognitiva sobre si el buen rendimiento de los chatbots refleja una comprensión similar a la humana o patrones estadísticos convincentes. Los autores plantean como próximo paso precisar qué aspectos del significado capturan los modelos y cuáles les siguen resultando ajenos.