Tom Siegel, quien durante más de una década formó parte del núcleo de confianza y seguridad de Google, ha decidido usar ese conocimiento desde adentro para advertir sobre lo que considera una amenaza silenciosa: la inteligencia artificial podría dañar a los niños y adolescentes de maneras que las redes sociales nunca lograron anticipar ni prevenir. Desde su nuevo rol al frente del Instituto para la Seguridad de los Jóvenes en la IA, Siegel no solo señala riesgos como el suicidio, la psicosis y el deterioro del pensamiento crítico, sino que interpela directamente a una industria que, según él,
Exjefe de Google advierte que la IA podría ser más peligrosa para niños que las redes sociales
Menores enfrentan riesgos de suicidio, psicosis y daño al desarrollo cognitivo por exposición a inteligencia artificial sin regulaciones adecuadas.
La industria está repitiendo los mismos errores de las redes sociales
Mark
¿Por qué Siegel cree que la IA es más peligrosa que las redes sociales para los niños?
Mimi
Porque la IA no solo expone a los menores a contenido problemático, como hacen las redes sociales. La IA interactúa directamente con ellos, personaliza sus respuestas, y puede atrofiar su capacidad de pensar por sí mismos a través de lo que él llama "descarga cognitiva".
Luke
Pero eso es una teoría sobre cómo funciona la IA en el cerebro de un adolescente. ¿Hay estudios que demuestren que esto está sucediendo realmente en los menores que usan chatbots?
Mark
¿Qué tan urgente es el problema en este momento?
Mimi
Siegel dice que es preocupante ahora mismo. Millones de jóvenes ya están usando estos chatbots frecuentemente, y las compañías siguen agregando funciones sin esperar a que haya regulación.
Luke
Pero Siegel no presenta datos sobre cuántos menores están siendo afectados o en qué medida. Dice que el riesgo existe, pero no sabemos si es marginal o masivo.
Mark
¿Qué puede hacer una compañía como Google mañana mismo?
Mimi
Siegel propone cosas concretas: controles de edad más estrictos, opciones para desactivar funciones de IA. Son cambios de diseño que podrían implementarse rápidamente.
Luke
Lo interesante es que si son tan simples, ¿por qué no las han hecho ya? Eso sugiere que o bien no creen que el riesgo sea real, o bien creen que el costo comercial de esas medidas es demasiado alto.
Mark
¿Quién va a hacer que las empresas cumplan?
Mimi
El Instituto para la Seguridad de los Jóvenes en la IA está trabajando en desarrollar normas que permitan exigir responsabilidades. Siegel cree que la presión tiene que venir de fuera de las empresas.
Luke
Pero el Instituto está patrocinado por Anthropic y la Fundación OpenAI. ¿Qué tan independiente puede ser una organización que depende financieramente de las mismas compañías que está tratando de regular?
O Pulso
- Millones de menores usan chatbots de IA con frecuencia creciente mientras las empresas tecnológicas siguen añadiendo funciones sin que existan salvaguardas adecuadas para protegerlos.
- Siegel identifica riesgos que van desde lo más extremo —suicidio y psicosis— hasta lo más silencioso: la 'descarga cognitiva', que erosiona lentamente la capacidad de razonar y pensar de forma autónoma.
- La advertencia sacude a la industria porque no proviene de un crítico externo, sino de alguien que conoce desde adentro cómo las grandes tecnológicas toman decisiones y dónde están sus puntos de presión.
- Siegel propone medidas concretas e inmediatas —controles de edad más estrictos y opciones para desactivar funciones de IA— que las empresas podrían implementar hoy si existiera voluntad o presión suficiente.
- El Instituto para la Seguridad de los Jóvenes en la IA, respaldado por Anthropic y la Fundación OpenAI, busca desarrollar normas que obliguen a las empresas a rendir cuentas antes de que la tecnología supere por completo la capacidad regulatoria de los gobiernos.
Tom Siegel, quien durante más de una década formó parte del núcleo de confianza y seguridad de Google, ha decidido usar ese conocimiento desde adentro para advertir sobre lo que considera una amenaza silenciosa: la inteligencia artificial podría dañar a los niños y adolescentes de maneras que las redes sociales nunca lograron anticipar ni prevenir. Desde su nuevo rol al frente del Instituto para la Seguridad de los Jóvenes en la IA, Siegel no solo señala riesgos como el suicidio, la psicosis y el deterioro del pensamiento crítico, sino que interpela directamente a una industria que, según él, está repitiendo los errores del pasado. Su llamado no es al pánico, sino a la responsabilidad: la regulación externa ya no es opcional.
Tom Siegel pasó más de una década en Google como vicepresidente de confianza y seguridad. Desde que dejó la compañía en 2019, ha recorrido un camino que lo llevó a una conclusión incómoda para la industria que lo formó: la inteligencia artificial podría representar un peligro mayor para los niños y adolescentes que el que alguna vez representaron las redes sociales.
En una entrevista con Reuters, Siegel fue preciso sobre sus preocupaciones. Los menores que interactúan con chatbots de IA enfrentan riesgos concretos: escenarios vinculados al suicidio y la psicosis, pero también un fenómeno más gradual y quizás más difícil de detectar. La 'descarga cognitiva' ocurre cuando una persona delega en la IA el razonamiento que antes hacía por sí misma. Con el tiempo, esa delegación erosiona la capacidad de pensar críticamente.
Lo que da peso particular a su voz es precisamente su trayectoria. Siegel no habla desde los márgenes, sino desde el conocimiento de cómo funcionan estas empresas por dentro. Y su diagnóstico es directo: la industria está repitiendo los mismos errores que cometió durante el auge de las redes sociales, y las compañías no pueden resolver este problema sin regulación externa.
Las propuestas que plantea no son radicales: controles de edad más estrictos para limitar el acceso de menores a ciertos chatbots, y opciones para que los usuarios desactiven funciones como los resúmenes de IA en buscadores. Son ajustes de diseño posibles hoy. Que no se hayan implementado revela que la presión regulatoria aún no es suficiente.
Ahora Siegel dirige el Instituto para la Seguridad de los Jóvenes en la IA, creado por Common Sense Media con apoyo de Anthropic y la Fundación OpenAI. Su misión es estudiar cómo usan realmente los menores estas herramientas y construir normas que exijan responsabilidades a las empresas. El momento, insiste Siegel, no es el futuro. Es ahora.
Tom Siegel pasó más de una década en Google, donde llegó a ser vicepresidente de confianza y seguridad. Dejó la compañía en 2019. Ahora, desde su nuevo rol como director ejecutivo del Instituto para la Seguridad de los Jóvenes en la IA —un organismo creado en mayo por Common Sense Media—, está levantando una alarma que la industria tecnológica preferiría no escuchar: la inteligencia artificial podría ser más peligrosa para los niños y adolescentes que las redes sociales nunca fueron.
En una entrevista con Reuters, Siegel fue específico sobre lo que lo preocupa. Los menores que usan chatbots de IA con frecuencia creciente enfrentan riesgos concretos vinculados a su salud mental y desarrollo cognitivo. Mencionó escenarios de suicidio y psicosis. Pero también identificó algo menos dramático pero quizás más insidioso: la "descarga cognitiva", el fenómeno que ocurre cuando una persona delega en la IA tareas que normalmente exigirían razonamiento y análisis propios. Con el tiempo, esto erosiona la capacidad de pensar críticamente.
Lo que distingue la advertencia de Siegel es que no viene de un activista o un crítico de la tecnología que opera desde los márgenes. Viene de alguien que estuvo adentro, que conoce cómo funcionan estas empresas, cómo toman decisiones, dónde están los puntos de presión. Y su conclusión es clara: la industria está repitiendo los mismos errores que cometió durante el auge de las redes sociales. Las compañías no pueden resolver este problema por sí solas, dice. Necesitan regulación externa.
Siegel propone medidas concretas que podrían implementarse ahora. Controles de edad más estrictos para limitar el acceso de menores a ciertos chatbots. Opciones para que los usuarios desactiven funciones como los resúmenes de IA y el Modo IA dentro de buscadores como Google. Estas no son propuestas radicales; son ajustes de diseño que cualquier compañía tecnológica podría hacer mañana si quisiera. El hecho de que no lo hayan hecho sugiere que la presión regulatoria aún no es lo suficientemente fuerte.
El Instituto para la Seguridad de los Jóvenes en la IA, donde Siegel ahora trabaja, cuenta con patrocinio de Anthropic y la Fundación OpenAI. Su misión es estudiar cómo utilizan realmente los menores la inteligencia artificial y desarrollar normas que permitan exigir responsabilidades a las empresas. Siegel planea colaborar tanto con compañías tecnológicas como con organizaciones independientes para impulsar nuevas medidas de seguridad.
Esta conversación llega en un momento en que gobiernos y autoridades en distintos países ya están buscando establecer mayores controles para proteger a los menores en internet. La inteligencia artificial suma ahora un nuevo desafío a esa discusión, uno que es más complejo porque la tecnología evoluciona más rápido que la capacidad regulatoria de los gobiernos. Millones de jóvenes ya están usando estos chatbots con frecuencia creciente, y las compañías tecnológicas siguen incorporando nuevas funciones a estas herramientas. El tiempo para actuar, según Siegel, no es el futuro. Es ahora.
Citações Notáveis
Las empresas no pueden resolver este problema por sí solas; se necesita regulación externa— Tom Siegel, director ejecutivo del Instituto para la Seguridad de los Jóvenes en la IA
Quer a matéria completa?
Leia o original em Sopitas.com ↗