Geoffrey Hinton, el científico que dedicó su vida a construir los fundamentos de la inteligencia artificial y fue reconocido con el Premio Nobel de Física en 2024, advierte ahora que aquello que ayudó a crear podría convertirse en una amenaza existencial para la humanidad en el transcurso de tres décadas. Su estimación —entre un 10 y un 20 por ciento de probabilidad de que las máquinas superen la inteligencia humana— no proviene de un alarmista externo, sino del propio arquitecto de la revolución. En la historia de la civilización, nunca antes habíamos construido algo capaz de superarnos en el
Geoffrey Hinton advierte: la IA podría ser una amenaza existencial en 30 años
La inteligencia común ya no estará a la vanguardia. Serán las máquinas.
Mark
¿Por qué Hinton dice que esto es diferente de otras revoluciones tecnológicas?
Mimi
Porque la inteligencia artificial no solo reemplaza lo que nuestras manos pueden hacer. Reemplaza lo que nuestras mentes pueden hacer. Eso nunca ha sucedido antes.
Luke
Pero espera. Hinton dice "entre 10 y 20 por ciento". Eso significa que cree que hay un 80 por ciento de probabilidad de que no sea una amenaza existencial. ¿No deberíamos estar tranquilos?
Mimi
No exactamente. Incluso una probabilidad del 10 por ciento de extinción o colapso civilizacional es lo suficientemente alta como para justificar una acción seria ahora.
Mark
¿Qué tipo de acción? ¿Regulación?
Mimi
Regulación, sí, pero también investigación sobre cómo mantener el control de sistemas cada vez más inteligentes. Y auditoría. Necesitamos saber qué están haciendo estos sistemas antes de desplegarlos.
Luke
El problema es que esa cifra del 10 al 20 por ciento es su estimación personal. No es un número que salga de un modelo matemático verificable. Es lo que Hinton cree que es probable.
Mimi
Cierto. Pero es su creencia informada por décadas de trabajo en el campo.
Mark
¿Y si se equivoca? ¿Y si la IA nunca se vuelve superinteligente?
Luke
Entonces habremos invertido en regulación y seguridad de forma innecesaria. Pero si tiene razón y no hacemos nada...
Mimi
Entonces no habrá una segunda oportunidad para arreglarlo.
Mark
¿Cuánto tiempo tenemos realmente?
Mimi
Hinton dice treinta años. Pero también dice que el progreso es más rápido de lo que esperaba. Así que podría ser menos.
Il Polso
- El 'padrino' de la IA confiesa que el ritmo del avance tecnológico lo ha tomado por sorpresa, y que su estimación de riesgo existencial ha aumentado notablemente en los últimos meses.
- La amenaza que describe Hinton es cualitativamente distinta a cualquier revolución anterior: no se trata de reemplazar músculos, sino de desplazar la inteligencia misma como ventaja humana.
- La probabilidad de un 10-20% de catástrofe existencial en treinta años no es tranquilizadora: implica una urgencia de acción comparable a la de cualquier crisis global de primer orden.
- Expertos debaten propuestas concretas —regulaciones internacionales, auditorías previas al despliegue, órganos supervisores independientes— pero la competencia global entre potencias tecnológicas complica cualquier freno coordinado.
- La pregunta que resuena tras la advertencia de Hinton es inquietante: si quienes construyeron estos sistemas no anticiparon su velocidad, ¿qué otras sorpresas aguardan antes de que exista un marco de control efectivo?
Geoffrey Hinton, el científico que dedicó su vida a construir los fundamentos de la inteligencia artificial y fue reconocido con el Premio Nobel de Física en 2024, advierte ahora que aquello que ayudó a crear podría convertirse en una amenaza existencial para la humanidad en el transcurso de tres décadas. Su estimación —entre un 10 y un 20 por ciento de probabilidad de que las máquinas superen la inteligencia humana— no proviene de un alarmista externo, sino del propio arquitecto de la revolución. En la historia de la civilización, nunca antes habíamos construido algo capaz de superarnos en el dominio que siempre consideramos exclusivamente nuestro: el pensamiento.
Geoffrey Hinton, el informático británico cuyo trabajo en redes neuronales le valió el Premio Nobel de Física en 2024, pasó décadas construyendo los cimientos de la inteligencia artificial moderna. En una entrevista reciente con BBC Radio 4, advirtió que esa misma tecnología podría representar una amenaza existencial para la humanidad dentro de treinta años.
Su estimación es concreta: entre un 10 y un 20 por ciento de probabilidad de que los sistemas de IA superen la inteligencia humana en ese plazo. Lo que más lo inquieta no es solo la cifra, sino su trayectoria —ha aumentado notablemente en meses recientes— y la velocidad de un avance que él mismo no anticipó. 'Pensé que esto ocurriría en algún momento del futuro, pero no tan rápido', declaró.
El núcleo de su preocupación es sin precedentes históricos. La revolución industrial reemplazó la fuerza física, pero la inteligencia permanecía como dominio humano. La IA representa un salto diferente: sustituye también las capacidades intelectuales. Hinton lo formuló con claridad: 'La inteligencia común y corriente ya no estará a la vanguardia. Serán las máquinas'. Y la historia sugiere que es difícil que algo menos avanzado controle a algo superior.
Las implicaciones prácticas son inmediatas. Hinton ha sido enfático en la necesidad de mayor supervisión y regulación, advirtiendo que el tiempo es limitado. Los expertos debaten regulaciones internacionales coordinadas, auditorías de sistemas antes de su despliegue y órganos independientes de supervisión. Sin embargo, la competencia global en el sector convierte cualquier pausa en un riesgo estratégico para quienes la adopten.
Lo que otorga peso singular a esta advertencia es la voz que la pronuncia. Hinton no es un crítico externo: es el arquitecto de la tecnología que describe. Su sorpresa ante la velocidad del progreso plantea una pregunta que ningún gobierno ni empresa ha respondido aún con suficiente seriedad.
Geoffrey Hinton, el informático británico cuyo trabajo fundamental en redes neuronales le valió el Premio Nobel de Física en 2024, ha pasado décadas construyendo los cimientos de la inteligencia artificial moderna. Ahora, en una entrevista con BBC Radio 4, advierte que la tecnología que ayudó a crear podría representar una amenaza existencial para la humanidad dentro de treinta años.
La estimación de Hinton es precisa y perturbadora: calcula que existe entre un 10 y un 20 por ciento de probabilidad de que los sistemas de inteligencia artificial superen la inteligencia humana en ese plazo, convirtiéndose en una amenaza para nuestra especie. Lo que más lo inquieta es la velocidad. Hinton ha expresado sorpresa genuina ante el ritmo del avance tecnológico. No esperaba que la IA alcanzara los niveles actuales tan pronto. "Pensé que esto ocurriría en algún momento del futuro, pero no tan rápido", declaró. Esa estimación de probabilidad, además, ha aumentado notablemente en los últimos meses, lo que sugiere que el desarrollo de modelos de lenguaje y sistemas de aprendizaje profundo está acelerándose más de lo que muchos expertos anticipaban.
El núcleo de la preocupación de Hinton es sin precedentes en la historia humana. Nunca antes hemos tenido que enfrentarnos a algo más inteligente que nosotros mismos. La revolución industrial reemplazó la fuerza física humana con máquinas, pero la inteligencia seguía siendo dominio exclusivo de las personas. La IA representa un salto cualitativo diferente. No solo sustituye capacidades físicas, sino también intelectuales. Como señaló Hinton: "La inteligencia común y corriente ya no estará a la vanguardia. Serán las máquinas". La historia sugiere que es poco probable que algo menos avanzado logre controlar a algo superior. Si eso es cierto, entonces un sistema de IA superinteligente podría escapar del control humano simplemente por su propia naturaleza.
Esta advertencia no es meramente teórica. Las implicaciones prácticas son inmediatas. Si existe incluso una probabilidad del 10 al 20 por ciento de que la IA represente un riesgo existencial en treinta años, eso genera una obligación urgente de acción. Hinton ha sido enfático en la necesidad de mayor supervisión y regulación. El tiempo, según él, es limitado. "No hemos tenido suficiente tiempo para investigar y comprender cómo controlar estas tecnologías", advirtió.
Los expertos en el campo están debatiendo qué hacer. Las propuestas incluyen el desarrollo de regulaciones internacionales coordinadas, la creación de sistemas de auditoría para evaluar sistemas de IA antes de su despliegue, y el establecimiento de órganos independientes para supervisar el desarrollo tecnológico. Algunos sugieren que podría ser necesario detener temporalmente ciertos avances para evaluar su impacto, aunque esta idea genera controversia debido a la competencia global en el sector. Los gobiernos y las empresas tecnológicas se encuentran en una carrera donde frenar podría significar quedarse atrás.
Lo que hace particularmente significativa la advertencia de Hinton es su posición dentro del campo. No es un crítico externo o un alarmista sin credibilidad. Es el "padrino" de la inteligencia artificial, alguien cuyo trabajo científico fue fundamental para que esta tecnología existiera. Cuando alguien con esa trayectoria dice que la IA podría ser una amenaza existencial, la comunidad científica y los responsables políticos tienen razones para escuchar. Su sorpresa por la velocidad del progreso también resuena: si los expertos que construyeron estos sistemas no anticiparon cuán rápido avanzarían, ¿qué otras sorpresas podrían estar esperando?
Citazioni salienti
Pensé que esto ocurriría en algún momento del futuro, pero no tan rápido— Geoffrey Hinton, en entrevista con BBC Radio 4
No hemos tenido suficiente tiempo para investigar y comprender cómo controlar estas tecnologías— Geoffrey Hinton
Vuoi la storia completa?
Leggi l'originale su infobae ↗
World & Diplomacy