Hinton advierte que la IA podría comprender realidades fuera del alcance humano

Tres voces de campos distintos se sentaron a una misma mesa redonda para discutir una pregunta de apariencia sencilla: cómo saber qué es verdad cuando tanto las personas como los algoritmos pueden equivocarse o inventar. El Nobel Geoffrey Hinton, pionero de la inteligencia artificial, compartió el debate con el psicólogo cognitivo Steven Pinker y con Christiana Figueres, quien fue la máxima responsable de Naciones Unidas para el clima.

Hinton planteó que la humanidad se encamina hacia un escenario en el que las máquinas procesarán y comprenderán realidades que quedarán por completo fuera del alcance del entendimiento humano. Para ilustrarlo recurrió a una comparación con el reino animal: de igual modo que las ratas nunca comprenderán los números primos, dijo, las personas podrían enfrentarse a sistemas capaces de entender fenómenos indescifrables para la mente humana. Y sugirió una consecuencia práctica: si una IA superior afirma algo, es mejor que uno se lo crea.

El científico abordó también uno de los reproches más frecuentes a los grandes modelos de lenguaje, las llamadas alucinaciones. Defendió que los errores o invenciones de las máquinas no prueban una falta de comprensión, sino que replican una conducta muy humana: la de reconstruir recuerdos o confabular, es decir, rellenar huecos con relatos que parecen verosímiles.

Pinker puso el acento en otro punto. Para él, la utilidad real de estos desarrollos dependerá de que ofrezcan respuestas correctas y comprobables. En ese esquema remarcó el papel del periodismo responsable y de la ciencia, que deben corregir afirmaciones erróneas sin caer en fanatismos ideológicos.

La conversación derivó entonces hacia la resistencia de la sociedad a aceptar evidencias complejas, y Figueres usó el cambio climático como ejemplo de la distancia entre el consenso científico y la acción política. Según explicó, las pruebas sobre el calentamiento global son contundentes, pero sectores negacionistas aprovechan los márgenes de incertidumbre propios de la ciencia para sembrar dudas y frenar decisiones regulatorias.

Pinker sumó una advertencia sobre la politización. Cuando un tema científico como el clima queda asociado a un bando, dijo, las personas tienden a rechazar la evidencia solo porque la vinculan con el grupo político contrario. Ese mismo fenómeno, señaló, amenaza la regulación objetiva de la tecnología del futuro.

Lo que queda sobre la mesa es una doble tensión: por un lado, la posibilidad de que las máquinas comprendan más de lo que podemos verificar; por el otro, una sociedad que ya muestra dificultades para actuar sobre lo que sí puede comprobar. Figueres y Pinker coinciden en que la politización de la ciencia podría frenar también la regulación de la inteligencia artificial.