Hay momentos en que quien construye una herramienta reconoce que su poder ya excede lo que una empresa puede contener por sí sola. Ante el Senado estadounidense, Sam Altman, responsable de OpenAI, creadora de ChatGPT, pidió que los gobiernos fijen límites a la inteligencia artificial más potente, propuesta que nace de una inquietud compartida con una sociedad que teme por sus empleos, su educación y la verdad de lo que lee. Mientras Washington todavía no traza normas generales, Europa se acerca a un reglamento definitivo que podría convertirse en referencia para el resto del mundo.
Creador de ChatGPT advierte de «daño significativo» de la IA y pide una agencia que otorgue licencias
Si esta tecnología sale mal, puede salir muy mal
Mark
¿Qué hace especial que Altman pida regulación ante el Senado?
Mimi
Que lo dice el director de la empresa detrás de ChatGPT. Pidió una agencia que dé licencias a los sistemas más potentes y que pueda retirarlas si no se cumplen las normas de seguridad.
Mark
¿Y qué le preocupa exactamente?
Mimi
Cuando le preguntaron por su peor temor, habló de un «daño significativo al mundo» y dijo que si la tecnología sale mal, puede salir muy mal.
Luke
Ojo con el alcance. Eso es una advertencia general; el reportaje no detalla qué daños concretos prevé ni con qué probabilidad.
Mark
El senador Blumenthal también habló de empleo y pruebas previas.
Mimi
Sí. Quiere que las empresas prueben sus sistemas y revelen los riesgos conocidos antes de lanzarlos, y le inquieta el mercado laboral.
Luke
Y Altman «en gran medida» coincidió, no del todo. Lo que sí aportó fue la idea de bloquear modelos que puedan «autorreplicarse y autoexfiltrarse», que el texto describe como preocupaciones futuristas, no hechos actuales.
Mark
¿Va a haber una ley estadounidense?
Luke
No hay indicios inmediatos de normas generales en el Congreso. Lo único aprobado es europeo.
Mimi
Exacto: el Parlamento Europeo aprobó medidas el jueves anterior y votará el reglamento definitivo en un pleno en junio.
Der Puls
- Altman, responsable de OpenAI, pide ante el Senado que una agencia licencie y pueda retirar licencias a los sistemas de IA más potentes.
- ChatGPT ha sembrado pánico entre educadores por las trampas en exámenes y ha avivado temores sobre desinformación, derechos de autor y empleos.
- El senador Richard Blumenthal exige que las empresas prueben sus sistemas y revelen riesgos antes de lanzarlos al mercado.
- Altman advierte de un posible «daño significativo al mundo» y propone salvaguardas contra modelos que puedan autorreplicarse.
- Washington no muestra señales de normas generales, mientras el Parlamento Europeo llevará su reglamento definitivo al pleno en junio.
Hay momentos en que quien construye una herramienta reconoce que su poder ya excede lo que una empresa puede contener por sí sola. Ante el Senado estadounidense, Sam Altman, responsable de OpenAI, creadora de ChatGPT, pidió que los gobiernos fijen límites a la inteligencia artificial más potente, propuesta que nace de una inquietud compartida con una sociedad que teme por sus empleos, su educación y la verdad de lo que lee. Mientras Washington todavía no traza normas generales, Europa se acerca a un reglamento definitivo que podría convertirse en referencia para el resto del mundo.
El martes, Sam Altman, director general de OpenAI, compareció ante el Subcomité de privacidad, tecnología y legislación del Senado de Estados Unidos con un mensaje poco habitual para el dueño de una tecnología en plena expansión: los gobiernos deben intervenir. Según él, esa intervención es clave para reducir los riesgos de los sistemas de inteligencia artificial.
Altman reconoció que la gente se preocupe por cómo la tecnología podría cambiar su vida, y dijo que él y su empresa comparten esa inquietud. Su propuesta concreta fue crear una agencia, nacional o internacional, que concediera licencias a los sistemas más potentes, con capacidad para retirarlas si no se cumplen las normas de seguridad.
El auge de ChatGPT ha provocado alarma entre educadores, preocupados por las trampas en los exámenes, y ha reforzado temores sobre la desinformación, las falsedades, las violaciones de derechos de autor y la pérdida de empleos. El presidente del subcomité, el demócrata Richard Blumenthal, pidió que las empresas prueben sus sistemas y revelen sus riesgos antes de lanzarlos, con especial preocupación por el impacto en el mercado laboral.
Altman estuvo en gran medida de acuerdo. Admitió que la industria podría causar «un daño significativo al mundo» y propuso que la agencia pudiera bloquear modelos capaces de autorreplicarse y autoexfiltrarse, en referencia a temores sobre sistemas que manipularan a las personas.
De momento, Washington no parece cerca de aprobar normas generales. En Europa, en cambio, el Parlamento Europeo aprobó medidas para regular la IA, y el reglamento definitivo se votará en el pleno de junio.
El martes, Sam Altman, director general de OpenAI, la empresa que desarrolló ChatGPT, se presentó ante el Senado de Estados Unidos con un mensaje poco habitual en el dueño de una tecnología en pleno auge: los gobiernos tienen que intervenir. Según su planteamiento, esa intervención será fundamental para reducir los riesgos de los sistemas de inteligencia artificial.
Altman reconoció la inquietud pública. A medida que la tecnología avanza, dijo, entiende que la gente se preocupe por cómo podría cambiar su forma de vida, y añadió que él y su empresa comparten esa preocupación.
Su propuesta concreta fue la creación de una agencia, estadounidense o internacional, que concediera licencias a los sistemas de IA más potentes. Ese organismo, sostuvo, tendría que poder retirar esas licencias y garantizar el cumplimiento de las normas de seguridad.
El contexto es el auge de ChatGPT, que ha provocado pánico entre los educadores por el uso que numerosos estudiantes hacen de la herramienta para hacer trampas en los exámenes. También ha reforzado otras inquietudes sobre la capacidad de la llamada IA generativa para engañar a la gente, difundir falsedades, violar los derechos de autor y poner en peligro algunos puestos de trabajo.
La sesión transcurrió en el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado. Su presidente, el demócrata Richard Blumenthal, afirmó que las empresas de IA deberían estar obligadas a probar sus sistemas y a revelar los riesgos conocidos antes de lanzarlos al mercado. Expresó una preocupación especial por la posibilidad de que los futuros sistemas desestabilicen el mercado laboral.
Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor sobre la IA, respondió que la industria podría causar «un daño significativo al mundo» y que, si la tecnología sale mal, «puede salir muy mal». Propuso que la nueva agencia impusiera salvaguardas capaces de bloquear modelos que pudieran «autorreplicarse y autoexfiltrarse en la naturaleza», una referencia a temores futuristas sobre sistemas avanzados que manipularan las decisiones de las personas.
Por ahora no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar normas generales sobre IA. En Europa, en cambio, el Parlamento Europeo aprobó el jueves anterior medidas para regular su uso. La legislación pasará a un pleno en junio, donde se acordará la versión definitiva del nuevo reglamento.
Bemerkenswerte Zitate
A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos.— Sam Altman, director general de OpenAI
Las empresas de IA deberían probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos (paráfrasis).— Richard Blumenthal, senador demócrata
Möchten Sie die ganze Geschichte?
Das Original lesen bei RT en Español ↗
Technology