En un momento en que la humanidad se encuentra ante una de sus creaciones más poderosas e impredecibles, los propios arquitectos de la inteligencia artificial elevan la voz para pedir que se frene la marcha. Dario Amodei, de Anthropic, junto a Sam Altman y Elon Musk, reconocen públicamente que la carrera hacia sistemas capaces de mejorarse a sí mismos podría escapar del control humano en cuestión de meses. Es una rara confesión de vulnerabilidad desde el corazón de la industria: quienes construyen el futuro admiten que el futuro podría no esperarlos.
Anthropic pide frenar el desarrollo de la IA para evitar una «catástrofe»
Potencial riesgo existencial para la humanidad si sistemas de IA alcanzan automejora recursiva sin control adecuado.