Veintidós de los investigadores más influyentes en inteligencia artificial, entre ellos el Nobel Geoffrey Hinton, han publicado una advertencia que sitúa a la humanidad ante una encrucijada histórica: la IA ya está siendo usada para diseñar versiones más capaces de sí misma, y si ese ciclo alcanza suficiente masa crítica, los avances que hoy toman años podrían comprimirse en meses, superando la capacidad de gobiernos y sociedades para responder. Su llamado no es a detener el progreso, sino a construir los andamios regulatorios antes de que la aceleración haga imposible la intervención.
22 expertos en IA, incluido Nobel de Física, advierten de riesgo de 'explosión de inteligencia'
Una vez que empiece, la ventana para actuar puede cerrarse
Mark
¿Por qué estos expertos creen que ahora es el momento crítico para actuar? ¿Qué ha cambiado?
Mimi
Lo que ha cambiado es que la IA ya está siendo usada para automatizar partes de su propio desarrollo. No es una amenaza teórica. Las empresas están usando sistemas para escribir código y hacer investigación. Si eso se expande lo suficiente, creas un ciclo de retroalimentación donde cada generación de IA ayuda a crear la siguiente más rápidamente.
Luke
Pero el documento reconoce obstáculos importantes, ¿verdad? Límites de computación, datos, tareas que no se pueden automatizar fácilmente. ¿Cuán probable es realmente que esto suceda?
Mimi
Los autores no dicen que sea seguro que suceda. Dicen que hay obstáculos reales. Pero argumentan que incluso si la probabilidad es baja, las consecuencias potenciales son tan grandes que vale la pena prepararse ahora.
Mark
¿Qué tipo de preparación están pidiendo exactamente?
Mimi
Quieren que los gobiernos sepan qué están haciendo las empresas. Auditores independientes, requisitos de seguridad obligatorios, mecanismos para ralentizar o detener experimentos si es necesario, y planes de emergencia para diferentes tipos de crisis.
Luke
¿Y quién verifica que las empresas cumplan? ¿Tienen poder real estos gobiernos para hacer que se detengan los experimentos si lo consideran necesario?
Mimi
Ese es el punto que el documento no responde completamente. Propone los mecanismos, pero la implementación real depende de que gobiernos y empresas lleguen a acuerdos sobre cómo funcionaría en la práctica.
Mark
¿Por qué es importante que estos expertos específicos sean quienes lo dicen?
Mimi
Porque no son críticos externos. Hinton ganó un Nobel, Bengio dirige investigación en OpenAI, Pachocki cofundó Anthropic. Son personas que han construido esta tecnología. No están pidiendo que se detenga todo, sino que se preparen guardarraíles mientras aún hay tiempo.
Luke
Pero ¿hay consenso en el campo sobre esto? ¿Otros investigadores principales están de acuerdo?
Mimi
El documento tiene 22 firmantes de alto nivel, pero eso no significa que sea la posición de toda la comunidad. Hay investigadores que creen que estos riesgos están sobreestimados o que la regulación preventiva es contraproducente.
Le Pouls
- Los propios arquitectos de la IA moderna advierten que la tecnología podría pronto escapar al ritmo que los humanos pueden supervisar, comprimiendo décadas de desarrollo en meses.
- El riesgo no es hipotético: las grandes empresas ya usan IA para automatizar su propia investigación, creando un ciclo de retroalimentación que podría volverse incontrolable.
- Los expertos reconocen obstáculos técnicos reales, pero argumentan que la magnitud de las consecuencias potenciales —desde vulnerabilidades cibernéticas hasta desequilibrios geopolíticos— justifica actuar antes de tener certeza.
- Gobiernos de todo el mundo enfrentan la presión de regular algo que aún no comprenden del todo, mientras las empresas avanzan a una velocidad que las instituciones públicas no están equipadas para seguir.
- La propuesta concreta incluye auditorías independientes, mecanismos de frenado de emergencia y planes de contingencia para escenarios que van desde crisis de bioseguridad hasta la pérdida de control sobre sistemas autónomos.
Veintidós de los investigadores más influyentes en inteligencia artificial, entre ellos el Nobel Geoffrey Hinton, han publicado una advertencia que sitúa a la humanidad ante una encrucijada histórica: la IA ya está siendo usada para diseñar versiones más capaces de sí misma, y si ese ciclo alcanza suficiente masa crítica, los avances que hoy toman años podrían comprimirse en meses, superando la capacidad de gobiernos y sociedades para responder. Su llamado no es a detener el progreso, sino a construir los andamios regulatorios antes de que la aceleración haga imposible la intervención.
Veintidós de los investigadores más influyentes del mundo en inteligencia artificial han publicado una advertencia que va más allá de las preocupaciones habituales sobre el ritmo tecnológico. Entre ellos figuran Geoffrey Hinton, Nobel de Física 2024, Yoshua Bengio, Jakub Pachocki de Anthropic y Eric Horvitz de Microsoft. Su trabajo, publicado por el Cambridge Programme on AI Science & Policy, plantea un escenario que ya no pertenece a la ciencia ficción: la posibilidad de una "explosión de inteligencia".
El mecanismo es directo. Las empresas utilizan cada vez más sistemas de IA para escribir código y participar en la investigación que produce modelos más avanzados. Si esa automatización abarcara una porción suficientemente grande del proceso, las máquinas podrían contribuir a construir sistemas más capaces, que a su vez acelerarían la siguiente generación. El resultado comprimiría en meses avances que hoy requieren años de trabajo humano.
Los investigadores no presentan esto como inevitable. Reconocen obstáculos reales: límites de cómputo, disponibilidad de datos y rendimientos decrecientes. Pero consideran que las consecuencias potenciales justifican actuar ahora. "Una vez que empiece una explosión de inteligencia, la ventana para actuar puede cerrarse", advierten.
Los riesgos contemplados van desde nuevas vulnerabilidades cibernéticas y biológicas hasta la posibilidad de que una ventaja significativa en IA altere el equilibrio de poder entre naciones e instituciones. Por eso los expertos no se limitan a advertir: exigen que los gobiernos conozcan el grado de automatización en la investigación de las compañías, proponen auditores independientes, mecanismos de frenado de experimentos y planes de emergencia para incidentes graves.
Lo que distingue esta advertencia es su origen. No proviene de críticos externos, sino de los propios arquitectos del campo, quienes ven en su trabajo la semilla de un problema que podría crecer exponencialmente. Su mensaje es claro: los gobiernos deben establecer guardarraíles ahora, porque una vez iniciada la aceleración, las opciones para intervenir podrían desaparecer.
Veintidós de los investigadores más influyentes del mundo en inteligencia artificial han publicado una advertencia que va más allá de las preocupaciones habituales sobre el ritmo del avance tecnológico. Entre ellos figuran Geoffrey Hinton, ganador del Premio Nobel de Física en 2024, Yoshua Bengio, científico jefe de OpenAI, Jakub Pachocki, cofundador de Anthropic, Jack Clark, y Eric Horvitz, director científico de Microsoft. Su mensaje, presentado en un trabajo titulado "What if automating AI R&D triggers an intelligence explosion?" publicado por el Cambridge Programme on AI Science & Policy y difundido a través de The Guardian, plantea un escenario que trasciende la ficción científica para entrar en el terreno de la planificación de riesgos concretos.
El mecanismo que describen es directo: las empresas están utilizando cada vez más sistemas de inteligencia artificial para escribir código y participar en la investigación necesaria para crear modelos más avanzados. Si esa automatización llegara a abarcar una porción suficientemente grande del proceso de desarrollo, las máquinas podrían contribuir a construir sistemas más capaces, que a su vez acelerarían la creación de la siguiente generación. El resultado sería lo que los autores llaman una "explosión de inteligencia": una aceleración impulsada por la propia IA que comprimiría en meses avances que actualmente requieren años de trabajo humano.
Los investigadores no presentan este escenario como inevitable. Reconocen obstáculos significativos: los límites en capacidad de computación, la disponibilidad de datos, tareas que resultan difíciles de automatizar, y rendimientos decrecientes en ciertos procesos. Sin embargo, consideran que las consecuencias potenciales de una aceleración descontrolada justifican tomar medidas ahora, antes de que sea demasiado tarde. "Una vez que empiece una explosión de inteligencia, la ventana para actuar puede cerrarse", advierten en el documento.
Los beneficios potenciales serían sustanciales. Una aceleración en la investigación podría adelantar descubrimientos científicos y médicos que actualmente están años alejados. El problema, según los autores, surge cuando el progreso tecnológico avanza más rápido de lo que gobiernos y sociedades pueden procesar y regular. El documento contempla riesgos que van desde nuevas vulnerabilidades cibernéticas y biológicas hasta la posibilidad de perder control sobre sistemas que superan capacidades humanas en áreas críticas. También señala que una ventaja significativa en IA podría alterar rápidamente el equilibrio de poder entre naciones, empresas e instituciones.
Por eso los expertos no se limitan a advertir. Exigen que los gobiernos conozcan el grado en que las compañías están automatizando su investigación. Proponen auditores independientes, sistemas obligatorios de información y requisitos de seguridad antes de que continúe el desarrollo de modelos cada vez más potentes. Además, sugieren crear mecanismos que permitan ralentizar o detener experimentos específicos, desarrollar investigación sensible en entornos aislados, y diseñar planes de emergencia para incidentes graves de ciberseguridad, bioseguridad, alteraciones del mercado laboral o una eventual pérdida de control sobre sistemas autónomos.
Lo que distingue esta advertencia de otras sobre riesgos de IA es que proviene de investigadores que han contribuido directamente al desarrollo de la tecnología que ahora les preocupa. No son críticos externos, sino arquitectos del campo que ven en su propio trabajo la semilla de un problema que podría crecer exponencialmente si no se toman precauciones. El llamado es claro: los gobiernos deben actuar ahora, mientras aún hay tiempo para establecer guardarraíles, porque una vez que el proceso de aceleración comience, las opciones para intervenir podrían desaparecer.
Citations marquantes
Una aceleración impulsada por la propia IA capaz de concentrar en meses avances que ahora necesitarían años— Definición de 'explosión de inteligencia' en el documento de los 22 investigadores
Una vez que empiece una explosión de inteligencia, la ventana para actuar puede cerrarse— Advertencia central de los autores del informe
Envie de l'histoire complète ?
Lire l'original sur El HuffPost ↗