En un momento en que la humanidad delega decisiones cada vez más complejas a sistemas que no comprende del todo, el alto comisionado de derechos humanos de la ONU, Volker Türk, ha alzado la voz para recordar que el progreso tecnológico no puede medirse únicamente en capacidades, sino también en consecuencias. Su advertencia del 14 de septiembre de 2026 sitúa a la inteligencia artificial agéntica —aquella que actúa sin supervisión humana constante— en el centro de una tensión civilizatoria: la promesa de eficiencia frente al riesgo de perder el control sobre los cimientos mismos de la vida cole
ONU advierte que derechos humanos están en riesgo por avance de la inteligencia artificial
Poblaciones enteras podrían quedar sin acceso a agua, calefacción o servicios financieros; la IA está acelerando guerras y erosionando salvaguardias contra armas de destrucción masiva.
Ninguna persona debería renunciar a sus derechos humanos por promesas de progreso
Mark
¿Por qué la ONU emite esta advertencia precisamente ahora? ¿Qué ha cambiado en las últimas semanas?
Mimi
Türk señala que la carrera hacia sistemas de IA más potentes se está acelerando. Lo nuevo es que líderes tecnológicos como Altman y Musk están pidiendo públicamente que se frene. Eso ha puesto el tema en la agenda internacional.
Luke
Pero espera. ¿Tenemos evidencia de que la IA agéntica ya está causando estos daños, o son riesgos proyectados? Türk dice que "está mostrando fallos", pero ¿cuáles son esos fallos específicos?
Mimi
Eso es justo. La advertencia se basa en riesgos potenciales, no en daños ya ocurridos. Los fallos que menciona son teóricos, aunque basados en el comportamiento actual de estos sistemas.
Mark
¿Y qué tan realista es que poblaciones enteras pierdan acceso a agua o calefacción por culpa de la IA?
Mimi
Si la IA controla infraestructuras críticas y falla o es manipulada, sí es posible. Pero eso requeriría que esos sistemas estén completamente automatizados sin salvaguardias humanas.
Luke
Exacto. Y ahí está el punto: no sabemos cuántas infraestructuras críticas están realmente bajo control de IA agéntica en este momento. La advertencia asume un escenario de integración muy profunda que podría no ser la realidad actual.
Mimi
Cierto. Pero Türk está diciendo que debemos actuar antes de que llegue a ese punto, no después.
Mark
¿Entonces la solución es simplemente frenar el desarrollo?
Mimi
No exactamente. Türk pide gobernanza internacional basada en derechos humanos, no una pausa total. Quiere que gobiernos y empresas trabajen juntos en marcos regulatorios.
Luke
Lo cual es más fácil de decir que de hacer. ¿Cómo se coordina eso globalmente cuando hay competencia geopolítica por la supremacía en IA?
El Pulso
- La IA agéntica ya registra fallos graves que podrían dejar a poblaciones enteras sin agua, calefacción o acceso a servicios financieros, según la ONU.
- El ritmo de las guerras se está acelerando en tiempo real gracias a la inteligencia artificial, erosionando las barreras que separan al mundo del uso de armas de destrucción masiva.
- Figuras como Sam Altman, Elon Musk y Dario Amodei han pedido frenar deliberadamente el desarrollo de los modelos más avanzados, reconociendo públicamente el riesgo de perder el control.
- La ONU advierte que ningún país ni empresa puede gobernar esta tecnología en solitario, y que las decisiones unilaterales sobre sus riesgos afectan a toda la humanidad.
- La comunidad internacional se enfrenta a una ventana estrecha para establecer marcos de gobernanza basados en derechos humanos antes de que el desarrollo supere cualquier posibilidad de regulación efectiva.
En un momento en que la humanidad delega decisiones cada vez más complejas a sistemas que no comprende del todo, el alto comisionado de derechos humanos de la ONU, Volker Türk, ha alzado la voz para recordar que el progreso tecnológico no puede medirse únicamente en capacidades, sino también en consecuencias. Su advertencia del 14 de septiembre de 2026 sitúa a la inteligencia artificial agéntica —aquella que actúa sin supervisión humana constante— en el centro de una tensión civilizatoria: la promesa de eficiencia frente al riesgo de perder el control sobre los cimientos mismos de la vida colectiva. La ONU llama a los gobiernos y empresas a gobernar esta tecnología juntos, antes de que la velocidad del desarrollo supere la capacidad de la humanidad para protegerse a sí misma.
El alto comisionado de derechos humanos de la ONU, Volker Türk, lanzó el lunes una advertencia que no deja espacio para la ambigüedad: el desarrollo acelerado de la inteligencia artificial amenaza de forma directa y concreta los derechos humanos fundamentales —la vida, la alimentación, la privacidad, la salud y la seguridad— de personas en todo el mundo. No se trata de especulación sobre un futuro distante, sino de riesgos que ya se están materializando.
El foco de la preocupación es la llamada IA agéntica, sistemas capaces de tomar decisiones autónomas sin intervención humana constante. Türk advirtió que esta tecnología ya muestra fallos con consecuencias potencialmente devastadoras: paralización de servicios esenciales como el agua o los servicios financieros, fractura de comunicaciones, desestabilización de infraestructuras críticas y erosión de las instituciones democráticas. A esto se suma que la IA está acelerando conflictos armados y debilitando las salvaguardias que separan al mundo del uso de armas de destrucción masiva.
Las voces de alarma no provienen solo de organismos internacionales. Los propios arquitectos de esta tecnología —Sam Altman de OpenAI, Dario Amodei de Anthropic y Elon Musk— han pedido públicamente frenar el ritmo de desarrollo de los modelos más avanzados, reconociendo que el riesgo de perder el control sobre estos sistemas es lo suficientemente grave como para justificar una desaceleración deliberada.
Ante este panorama, Türk fue categórico: la gobernanza de la IA debe construirse de forma colectiva, a través de foros multilaterales anclados en el derecho internacional y los derechos humanos. Ningún país puede afrontar este desafío en solitario, ninguna empresa debería decidir unilateralmente qué riesgos asume el mundo, y ninguna persona debería tener que ceder sus derechos a cambio de promesas de progreso. La pregunta ya no es si la IA traerá beneficios, sino si la humanidad será capaz de establecer límites antes de que sea demasiado tarde para hacerlo.
El alto comisionado de derechos humanos de la ONU, Volker Türk, emitió una advertencia contundente el lunes: el desarrollo acelerado de la inteligencia artificial pone en peligro directo los derechos humanos fundamentales. No se trata de un riesgo marginal o teórico. Según Türk, están amenazados los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad de las personas en todo el mundo.
La preocupación se centra específicamente en lo que se conoce como IA agéntica, una forma de inteligencia artificial que va más allá de los sistemas convencionales porque puede tomar decisiones por sí misma sin intervención humana constante. Türk advirtió que esta tecnología ya está mostrando fallos graves. Esos fallos podrían paralizar servicios esenciales como el agua, la calefacción y los servicios financieros. Podrían fracturar las comunicaciones, desestabilizar infraestructuras críticas y socavar las instituciones democráticas en sus cimientos.
La magnitud de lo que está en juego es global. Poblaciones enteras podrían quedarse sin acceso a servicios básicos. Además, según el alto comisionado, la IA ya está acelerando el ritmo de las guerras, ampliando su alcance y erosionando las salvaguardias que existen entre el mundo actual y el lanzamiento de armas de destrucción masiva. Es una escalada que ocurre en tiempo real, no en un futuro lejano.
Las advertencias de Türk no surgen en el vacío. Líderes prominentes del sector tecnológico han comenzado a expresar preocupaciones similares. Dario Amodei, consejero delegado de Anthropic, Sam Altman, director ejecutivo de OpenAI, y el magnate Elon Musk han pedido públicamente que se frene deliberadamente el ritmo de desarrollo de los modelos de IA más avanzados. Su argumento central es el riesgo de perder el control sobre estos sistemas, una posibilidad que consideran lo suficientemente grave como para justificar una desaceleración intencional.
Türk fue claro sobre lo que considera necesario: gobiernos y empresas deben movilizarse con urgencia a través de foros multilaterales para gobernar la IA. Esa gobernanza debe basarse en el derecho internacional y en los derechos humanos, no en intereses comerciales o nacionales aislados. Su mensaje fue directo: ningún país puede gobernar esta tecnología por sí solo. Ninguna empresa debería poder decidir unilateralmente qué riesgos debe aceptar el mundo entero. Y ninguna persona debería verse obligada a renunciar a sus derechos humanos a cambio de promesas de progreso tecnológico.
Lo que está en juego es la capacidad de la comunidad internacional para establecer límites antes de que sea demasiado tarde. La carrera actual hacia una IA cada vez más potente representa, según Türk, un salto cualitativo hacia riesgos existenciales. No es una cuestión de si la tecnología traerá beneficios, sino de si esos beneficios pueden obtenerse sin sacrificar los derechos fundamentales de miles de millones de personas.
Citas Notables
La actual carrera hacia una IA cada vez más potente supone un salto cualitativo hacia mayores riesgos existenciales para todos los aspectos de nuestras vidas— Volker Türk, alto comisionado de derechos humanos de la ONU
Ningún país puede gobernar esta tecnología por sí solo, ninguna empresa debería poder decidir por sí sola qué riesgos debe aceptar el mundo— Volker Türk
Quieres la nota completa?
Lee el original en El Universal (Cartagena) ↗
World & Diplomacy