León XIV advierte que la IA 'no es neutral' y pide controles públicos en su primera encíclica

El papa León XIV publicó este lunes 'Magnifica Humanitas', la primera encíclica de su pontificado. El documento, de 110 páginas, está dedicado a proteger la dignidad humana frente al avance de la inteligencia artificial. Su tesis central cabe en una frase: la IA "no es neutral".

El pontífice, matemático y canonista de formación, retoma el legado de la 'Rerum Novarum' de León XIII para plantear una actualización de la Doctrina Social de la Iglesia ante la revolución digital. Según el texto, las innovaciones tecnológicas, incluida la inteligencia artificial, pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión.

La encíclica habla de "usos evidentemente antihumanos", como la manipulación de la información y la violación de la privacidad. También señala riesgos más sutiles: sistemas que se presentan como neutrales y objetivos, pero que reflejan y refuerzan los estereotipos o las posiciones ideológicas de quienes los diseñaron y programaron.

Una de las preocupaciones centrales es la concentración del poder. Patentes, algoritmos, plataformas digitales, infraestructuras y datos, dice el papa, quedan en manos de unos pocos, sin formas adecuadas de intercambio y acceso. Las empresas que controlan esos recursos terminan fijando las condiciones de acceso, las reglas de visibilidad, las formas de relación e incluso las oportunidades económicas. Cuando un poder así se concentra, advierte el texto, tiende a volverse opaco y a eludir el control público, con el riesgo de nuevas dependencias, exclusiones, manipulaciones y desigualdades.

Para responder a ello, León XIV pide a los estados y a los organismos supranacionales que establezcan "reglas justas" y "mecanismos de protección eficaces". El objetivo es que comunidades, escuelas, universidades y organizaciones sociales puedan participar en las decisiones sobre trabajo, acceso a servicios y gestión de datos. Reclama además marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política activa que evite que el cambio sea gobernado solo por lógicas tecnocráticas.

El documento dedica atención a los menores. Advierte sobre el papel de la IA en la explotación sexual infantil, la manipulación de imágenes y los perfiles falsos usados para captar víctimas. Señala también que el acceso temprano y sin supervisión a teléfonos móviles puede aumentar la vulnerabilidad de niños y adolescentes frente al acoso, el ciberacoso y las presiones para compartir contenido íntimo o información sensible.

En el terreno laboral, el papa sostiene que ciertos enfoques actuales de la tecnología pueden desespecializar a los trabajadores, someterlos a vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. Por eso pide que toda automatización o implementación de IA vaya acompañada de medidas verificables de protección del empleo, programas de recualificación y participación de los trabajadores.

Un apartado final aborda los conflictos armados. "No existe algoritmo que pueda hacer que la guerra sea moralmente aceptable", afirma el pontífice. Reconoce que la IA puede fortalecer sistemas de defensa y protección civil, pero advierte que también puede reducir el umbral para el uso de la fuerza y dificultar la identificación de responsabilidades, hasta el punto de que el enemigo queda reducido a un dato y la víctima a un daño colateral. El alcance práctico del texto dependerá de cómo respondan los estados y los organismos a los que va dirigido.