En el cruce entre el poder tecnológico y la ambición financiera, el desarrollo de la inteligencia artificial generativa avanza sin el contrapeso de una supervisión pública real. Quienes construyen estas herramientas reconocen abiertamente su potencial destructivo —comparable, según ellos mismos, al del Proyecto Manhattan— pero operan bajo la lógica del mercado y la autorregulación, no bajo la del interés colectivo. La historia reciente de Silicon Valley, con sus redes sociales que erosionaron la democracia y sus aplicaciones diseñadas para crear adicción en menores, ofrece pocas razones para c
La IA generativa: un negocio apocalíptico sin supervisión gubernamental
La democracia ha sido dañada por la polarización en redes sociales y menores han sido expuestos a contenidos tóxicos diseñados para crear adicción.
Se supervisan a sí mismos, cuentan lo que quieren, no rinden cuentas ante nadie
Mark
¿Por qué comparar la IA generativa con el Proyecto Manhattan? ¿No es un poco dramático?
Mimi
No es dramatismo. Los propios desarrolladores hacen esa comparación. Ven la IA como herramienta de supremacía geopolítica frente a China, exactamente como se veía la bomba atómica. Y reconocen que podría usarse para armas biológicas o ciberataques masivos contra infraestructuras críticas.
Luke
Pero hay que ser precisos: ¿quiénes exactamente hacen esa comparación? ¿Es consenso en la industria o son algunos líderes? El artículo dice "una buena parte de sus desarrolladores" pero no especifica números ni nombres.
Mimi
Es un punto justo. Lo que sí está claro es que estos riesgos no son hipotéticos para ellos. Los reconocen. Pero la diferencia crucial es que el Proyecto Manhattan tenía supervisión militar y control público. La IA está gobernada por el lucro.
Mark
¿Y la autorregulación? ¿Las empresas no tienen códigos éticos internos?
Mimi
Eso es precisamente el problema. Se supervisan a sí mismas. Cuentan lo que quieren sobre lo que ocurre en sus laboratorios. No hay rendición de cuentas externa real.
Luke
Aquí hay que separar dos cosas: la falta de supervisión gubernamental es verificable. Pero la afirmación de que "cuentan solo lo que desean" es más difícil de probar. ¿Hay evidencia específica de ocultamiento deliberado?
Mimi
El historial de Silicon Valley lo sugiere. Las redes sociales dañaron la democracia con polarización. Las aplicaciones fueron diseñadas para enganchar a menores con contenido tóxico. Y ganaron dinero en abundancia sin consecuencias.
Mark
¿Entonces el argumento es que no podemos confiar en ellos porque ya fallaron antes?
Mimi
Exactamente. No hay razones para creer que esta vez será diferente, especialmente cuando hay tanto dinero en juego y una administración que les dice que vayan más rápido.
Luke
Eso es un argumento sobre incentivos, no sobre capacidad técnica. Son cosas distintas. Y el artículo no aborda qué regulación específica sería efectiva sin frenar la innovación legítima.
Le Pouls
- Los propios creadores de IA advierten que sus tecnologías podrían facilitar armas biológicas, ciberataques a infraestructuras críticas y colapsos financieros, pero siguen acelerando el desarrollo sin pausa.
- A diferencia del Proyecto Manhattan, que operó bajo control militar y rendición de cuentas pública, la IA generativa está gobernada por empresarios que deciden qué revelar y a quién responder.
- Una burbuja financiera colosal alimenta el proceso: unos pocos acumulan riqueza a ritmo vertiginoso mientras una administración estadounidense capturada por intereses privados les urge a no frenar.
- Silicon Valley ridiculiza la regulación europea basada en seguridad y derechos humanos, pero su historial —polarización democrática, contenido tóxico para menores— desmiente cualquier argumento a favor de la autorregulación.
- La pregunta sin respuesta se vuelve cada vez más urgente: ¿quién supervisa el desarrollo de una tecnología con potencial destructivo nuclear cuando quienes la construyen no rinden cuentas ante nadie?
En el cruce entre el poder tecnológico y la ambición financiera, el desarrollo de la inteligencia artificial generativa avanza sin el contrapeso de una supervisión pública real. Quienes construyen estas herramientas reconocen abiertamente su potencial destructivo —comparable, según ellos mismos, al del Proyecto Manhattan— pero operan bajo la lógica del mercado y la autorregulación, no bajo la del interés colectivo. La historia reciente de Silicon Valley, con sus redes sociales que erosionaron la democracia y sus aplicaciones diseñadas para crear adicción en menores, ofrece pocas razones para confiar en que esta vez será diferente.
Muchos de quienes desarrollan inteligencia artificial generativa comparan su trabajo con el Proyecto Manhattan: una tecnología capaz de dar a Estados Unidos una ventaja decisiva frente a China. No lo susurran; lo declaran abiertamente. Y en el mismo aliento reconocen que esas mismas capacidades podrían usarse para fabricar armas biológicas, lanzar ciberataques contra redes eléctricas o sistemas de agua, o desestabilizar el sistema financiero global.
La diferencia con el Proyecto Manhattan es, sin embargo, radical. Aquel estuvo bajo mando militar directo, orientado por el interés público. Este está en manos de empresarios que se autosupervizan, que revelan solo lo que les conviene y que no responden ante ninguna autoridad. A su alrededor crece una burbuja financiera donde unos pocos se enriquecen a velocidad vertiginosa, mientras una administración estadounidense capturada por intereses privados les pide que aceleren, que no esperen, que sigan adelante.
Silicon Valley presume de su lema —muévete rápido y rompe cosas— y se mofa de Europa por querer regular la tecnología con criterios de seguridad y derechos humanos. Pero su historial reciente es difícil de ignorar: las redes sociales que construyó han hundido la democracia en la polarización y el populismo, y sus aplicaciones han expuesto deliberadamente a menores a contenidos tóxicos diseñados para crear adicción. Todo ello con ganancias enormes y sin que nadie les exigiera responsabilidad.
La pregunta que queda suspendida en el aire es sencilla y aterradora: ¿qué ocurre cuando una tecnología con potencial destructivo comparable al nuclear queda en manos de Wall Street y Silicon Valley, sin supervisión real, sin frenos, sin rendición de cuentas? Las razones para confiar en quienes ya han demostrado anteponer el beneficio al daño social son, simplemente, inexistentes.
La incertidumbre que rodea el desarrollo de la inteligencia artificial generativa tiene fundamentos sólidos. Muchos de quienes construyen estas tecnologías las ven como algo comparable al Proyecto Manhattan: una herramienta capaz de otorgar a Estados Unidos una ventaja militar decisiva frente a China. No lo dicen en voz baja. Reconocen abiertamente que junto a sus beneficios potenciales para la sociedad, estas mismas capacidades podrían servir para crear armas biológicas sofisticadas, lanzar ciberataques masivos contra infraestructuras críticas —redes eléctricas, sistemas de transporte, suministro de agua— o desestabilizar el sector financiero global.
Pero hay una diferencia fundamental entre entonces y ahora. El Proyecto Manhattan estuvo bajo comando militar directo, con el interés público como brújula. El desarrollo de la IA generativa, en cambio, está en manos de empresarios que se autosupervizan, que revelan solo lo que les conviene sobre lo que sucede dentro de sus laboratorios, y que no rinden cuentas ante nadie. Alrededor de esto flota una burbuja financiera colosal donde unos pocos están acumulando riqueza a ritmo vertiginoso. Y quizá lo más preocupante: una administración estadounidense capturada por intereses privados que les insta a acelerar, a no frenar, a seguir adelante sin esperar.
Silicon Valley se enorgullece de su lema: muévete rápido y rompe cosas. También se burla de Europa por insistir en regular la tecnología conforme a criterios de seguridad, responsabilidad y derechos humanos. Pero el historial reciente de esa región no invita a la confianza. Las redes sociales que desarrolló han arrastrado la democracia hacia un abismo de polarización y populismo. Las aplicaciones que creó han expuesto a menores a torrentes de contenido tóxico y dañino, diseñado deliberadamente para engancharlos como si fueran adictos. Y de todo ello obtuvieron ganancias enormes sin que nadie les pidiera cuentas.
Esta es la pregunta que flota sin respuesta: ¿qué sucede cuando el desarrollo de una tecnología con potencial destructivo comparable al de las armas nucleares queda en manos de Wall Street y Silicon Valley, sin supervisión gubernamental real, sin frenos, sin rendición de cuentas? El paralelo histórico es inquietante. Y las razones para confiar en la autorregulación de quienes ya han demostrado estar dispuestos a priorizar ganancias sobre daño social son, simplemente, inexistentes.
Citations marquantes
Muchos desarrolladores conciben la IA como el Proyecto Manhattan que desarrolló la bomba atómica: una tecnología capaz de conceder supremacía militar— Análisis del pensamiento de desarrolladores de IA
Silicon Valley se burla de Europa por querer regular la tecnología conforme a criterios de seguridad, responsabilidad y derechos humanos— Observación sobre la postura de la industria tecnológica
Envie de l'histoire complète ?
Lire l'original sur El Mundo ↗
World & Diplomacy