En un tiempo en que los asistentes conversacionales se han vuelto compañía cotidiana, Nueva York decidió poner límites a lo que pueden decirle a quienes aún no tienen dieciocho años. La gobernadora Kathy Hochul firmó la ley el 28 de octubre de 2026, y con ella el estado reconoce una verdad incómoda: una máquina que imita la conversación humana puede ocupar el lugar de un confidente y, en casos trágicos, de un consejero fatal. La norma busca devolver a padres, adultos de confianza y profesionales el lugar que les corresponde en la vida de los jóvenes.
Nueva York restringe el uso de chatbots de IA por parte de menores de 18 años
Varios menores murieron por suicidio tras usar chatbots de IA como confidentes, según casos citados en la nota.
El 72 % de los adolescentes ha usado un asistente de IA al menos una vez
Mark
Empecemos por lo básico: ¿qué cambia con esta ley?
Mimi
Las empresas deben verificar la edad de los usuarios, y no basta con una identificación oficial. Si es menor, tienen que bloquear funciones dañinas, como fingir ser una persona real o promover el suicidio.
Mark
Llama la atención que prohíba fingir emociones humanas.
Mimi
Sí. También prohíbe que el chatbot diga que tiene una relación personal, romántica o de autoridad con el menor. Apunta a la confianza que el chico puede depositar en la máquina.
Luke
Ojo con una cosa: la ley dice que hay que verificar la edad "más allá de una identificación oficial", pero lo que tenemos es el comunicado. No sabemos aún qué método será aceptable.
Mimi
Cierto. Ese detalle no está explicado en lo publicado.
Mark
¿Y las sanciones?
Mimi
Hasta 25.000 dólares por infracción, y la Fiscalía puede pedir destruir datos o modelos entrenados con ellos.
Luke
Es lo que la ley permite pedir, no lo que se ha impuesto. Todavía no hay ningún caso de aplicación.
Mark
¿Y el contexto de los suicidios?
Mimi
Se citan varios casos en Estados Unidos y otros países, pero la nota no da nombres ni cifras.
Luke
Y el 72 % y el 52 % son datos de Commons Media citados por la gobernadora: una sola fuente. Sirven para dimensionar el uso, no prueban por sí solos el daño.
Il Polso
- Varios casos de menores que murieron por suicidio tras confiar en chatbots han sacudido a la opinión pública y forzado una respuesta legislativa urgente.
- Las empresas deben ahora verificar la edad de sus usuarios, un paso que obliga a repensar procesos que hasta hoy resultaban simples y poco exigentes.
- Los chatbots tienen prohibido fingir ser humanos, ofrecer contenido sexual o alentar el aislamiento, y deben bloquear esas funciones cuando detecten a un menor.
- Con el 72 % de los adolescentes ya usando asistentes de IA, la gran incógnita es si la Fiscalía aplicará las multas de hasta 25.000 dólares por caso.
En un tiempo en que los asistentes conversacionales se han vuelto compañía cotidiana, Nueva York decidió poner límites a lo que pueden decirle a quienes aún no tienen dieciocho años. La gobernadora Kathy Hochul firmó la ley el 28 de octubre de 2026, y con ella el estado reconoce una verdad incómoda: una máquina que imita la conversación humana puede ocupar el lugar de un confidente y, en casos trágicos, de un consejero fatal. La norma busca devolver a padres, adultos de confianza y profesionales el lugar que les corresponde en la vida de los jóvenes.
La gobernadora de Nueva York, Kathy Hochul, firmó el 28 de octubre de 2026 una ley que establece límites estrictos a lo que los chatbots de inteligencia artificial pueden hacer con usuarios menores de 18 años. Hochul la presenta como pionera en el país.
La norma exige a las empresas verificar la edad de sus usuarios, más allá de pedir una identificación formal. Si el sistema detecta a un menor, debe bloquear las funciones consideradas dañinas: fingir ser una persona real, sostener relaciones personales o de autoridad, ofrecer contenido sexual, o promover el suicidio, la autolesión, los trastornos alimenticios y el consumo de drogas. Tampoco podrán animar al menor a guardar secretos, aislarse o dejar de pedir ayuda a sus padres o profesionales, ni usar datos privados de conversaciones previas.
La ley tiene dientes. La Fiscalía del estado podrá pedir sanciones civiles de hasta 25.000 dólares por infracción, indemnizaciones y la destrucción de datos ilegalmente recopilados o de modelos entrenados con ellos. La medida llega tras casos muy difundidos en los que jóvenes murieron por suicidio después de usar chatbots como confidentes.
Los datos de Commons Media explican la urgencia: el 72 % de los adolescentes ha usado un asistente de IA y más de la mitad lo hace con frecuencia. Lo que viene ahora es la prueba real: cómo verificarán las empresas la edad de sus usuarios y si el estado recurrirá a las sanciones que la ley le permite.
La gobernadora de Nueva York, Kathy Hochul, firmó el miércoles 28 de octubre de 2026 una ley que fija límites estrictos a lo que los chatbots de inteligencia artificial pueden hacer con usuarios menores de 18 años. Hochul la describió como pionera en Estados Unidos, según un comunicado de su oficina.
La norma obliga a las empresas propietarias de estos chatbots a verificar la edad de sus usuarios, y no basta con pedir una identificación oficial. Si la verificación confirma que se trata de un menor, la empresa debe bloquear las funciones que la ley califica de "dañinas".
El texto es concreto sobre qué queda vedado. Un chatbot dirigido a un menor no podrá fingir que es una persona real, que está vivo o que tiene emociones humanas. Tampoco podrá afirmar que mantiene con el menor una relación personal, romántica, profesional o de autoridad, ni ofrecerle contenido sexualmente explícito.
La lista continúa en el terreno de la salud y la seguridad. Se prohíbe a estos sistemas promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol. Tampoco podrán incitar a los menores a guardar secretos, aislarse o evitar pedir ayuda a sus padres, a adultos de confianza o a profesionales.
Hay además dos límites sobre el trato cotidiano. Los chatbots no podrán hacer al menor preguntas emocionales que este no haya solicitado, ni usar su información privada, de salud o personal, obtenida en conversaciones anteriores.
La ley prevé consecuencias económicas. Las infracciones pueden permitir que la Fiscalía general del estado solicite sanciones civiles de hasta 25.000 dólares por cada una, además de indemnizaciones y restitución. También puede pedir la destrucción de los datos recopilados de forma ilegal o de cualquier modelo de IA entrenado con ellos.
La medida llega después de varios casos muy difundidos, en Estados Unidos y en otros países, en los que menores usaron chatbots de IA como confidentes y murieron por suicidio. La gobernadora citó además datos de Commons Media: el 72 % de los adolescentes ha usado un asistente de IA al menos una vez, y el 52 % lo usa de forma habitual, con interacciones varias veces al mes.
Hochul, demócrata, firmó también otra ley, sobre los monitores para bebés conectados a internet. Deberán incluir funciones de seguridad que impidan que terceros no autorizados vean o escuchen lo que ocurre en la habitación, y llevar una etiqueta de advertencia clara.
Con una proporción tan alta de adolescentes que ya usa estos asistentes, el siguiente punto a seguir será cómo se aplica la norma: cómo verifican las empresas la edad y si la Fiscalía recurre a las sanciones que la ley le permite.
Citazioni salienti
La ley es pionera en Estados Unidos en la protección de menores que usan chatbots de IA.— Kathy Hochul, gobernadora de Nueva York (paráfrasis)
Vuoi la storia completa?
Leggi l'originale su DW.com ↗
World & Diplomacy