Sin castigos, ¿qué impediría que una empresa desarrolle un sistema de riesgo inaceptable?
En un momento en que la inteligencia artificial redefine los límites de lo posible, Perú intenta trazar las primeras líneas de un contrato social con la tecnología. El Parlamento peruano avanza en la regulación de sistemas de IA mediante un reglamento que propone etiquetado obligatorio y clasificación de riesgos, pero que, sin sanciones definidas, corre el riesgo de convertirse en una declaración de principios sin fuerza real. La pregunta que subyace no es solo técnica ni jurídica: es sobre qué tipo de sociedad quiere construir un país cuando la herramienta más poderosa de su época aún no tiene dueño claro.
- Perú tiene al menos 15 iniciativas legislativas sobre IA en comisión, lo que revela un apetito político genuino pero también una fragmentación que podría generar marcos contradictorios.
- El etiquetado obligatorio de contenidos generados por IA —inspirado en los octógonos nutricionales— ya enfrenta una realidad técnica que lo supera: creadores han encontrado formas de eliminar los marcadores antes de que la ley entre en vigor.
- La clasificación de riesgos prohíbe sistemas que manipulen comportamientos mediante técnicas subliminales o que clasifiquen injustamente a personas, pero la autoridad encargada de supervisarlos no tiene facultad para sancionar.
- Sin multas, retiro de registros ni prohibiciones efectivas, el reglamento podría quedar como un documento orientador, y solo un proyecto de ley alternativo propone dotar a la Secretaría de verdadero poder coercitivo.
- La propuesta estará en consulta pública hasta inicios de junio, dejando abierta la posibilidad de que Perú corrija sus vacíos antes de que la regulación se consolide —o los perpetúe.
Perú avanza hacia su primer marco regulatorio para la inteligencia artificial en medio de una tensión que define el debate global: cómo proteger sin sofocar. El reglamento de la ley N° 32184, preparado a inicios de este año, busca promover el uso de la IA para el desarrollo económico y social, mientras el Congreso acumula al menos 15 iniciativas legislativas adicionales sobre la materia. El abogado especialista Oscar Montezuma celebra el interés parlamentario, pero advierte que una regulación excesiva podría limitar el potencial de una tecnología aún en formación, algo que no ocurrió en los primeros años de internet.
Una de las medidas más visibles es el etiquetado obligatorio: los contenidos generados por IA deberían llevar una marca visible, similar a los octógonos nutricionales en alimentos. El artículo 26 de la propuesta lo establece para textos, imágenes, videos y audios. Sin embargo, la realidad técnica complica el panorama: el propio presidente de Asuntos Globales de Meta reconoció en febrero que no es posible identificar todos los contenidos generados por IA, y los creadores ya han encontrado formas de eliminar los marcadores existentes. La respuesta de Meta —una tecnología de marcas de agua integradas en el proceso de generación— ilustra que esta es una carrera sin línea de llegada.
El reglamento también clasifica los sistemas de IA en cuatro niveles de riesgo —inaceptable, alto, medio y bajo— y prohíbe aquellos que manipulen comportamientos mediante técnicas subliminales o que clasifiquen injustamente a personas. La Secretaría de Gobierno y Transformación Digital sería la autoridad supervisora. Pero aquí aparece el problema central: el documento no contempla ninguna sanción por incumplimiento. Montezuma lo resume sin rodeos: sin infracciones ni castigos definidos, el reglamento terminaría siendo apenas un documento orientador. Un proyecto de ley de la bancada Podemos Perú intenta subsanar esto, proponiendo multas, retiro de registros y prohibiciones según la gravedad de la infracción.
La propuesta también reconoce la necesidad de formar talento local, permitiendo que distintos niveles de gobierno atraigan y retengan expertos en IA y ciencia de datos, en línea con la incorporación que ya hacen muchas universidades peruanas. Con la consulta pública abierta hasta inicios de junio, lo que Perú decida en las próximas semanas determinará si su primera regulación de IA tiene dientes reales o queda como una buena intención sin consecuencias.
Perú está dando sus primeros pasos hacia un marco regulatorio para la inteligencia artificial, pero el camino está lleno de tensiones entre la innovación y la protección. A inicios de este año, mientras se preparaba la primera versión del reglamento de la ley N° 32184 —que busca promover el uso de la IA para el desarrollo económico y social del país—, especialistas como Oscar Montezuma, abogado experto en tecnología, notaban un apetito genuino en el Congreso por ordenar el entorno digital. Hoy, el Parlamento tiene en sus manos al menos 15 iniciativas legislativas adicionales, todas en comisión, que buscan regular y fomentar esta tecnología en ámbitos específicos: desde su uso en consulados peruanos en el extranjero hasta su implementación en el Ministerio Público.
Pero Montezuma también advierte sobre un riesgo fundamental. "Preocupa que siendo una tecnología aún en desarrollo se la regule de tal forma que podría limitar su máximo potencial", dice. Teme que la sobrerregulación termine desincentivando la innovación, algo que no sucedió cuando internet apareció. Esta tensión entre proteger y permitir crecer define gran parte del debate actual.
Una de las medidas más visibles del reglamento propuesto es el etiquetado obligatorio. Así como los alimentos llevan octógonos nutricionales para advertir sobre grasas o sodio, los productos generados con IA deberían llevar una etiqueta visible que permita al público reconocer cuándo un contenido ha sido creado por un sistema de inteligencia artificial. El artículo 26 de la propuesta lo incorpora explícitamente, promoviendo que los proveedores de sistemas basados en IA que generan o alteran textos, imágenes, videos y audios incluyan esta identificación. Sin embargo, la realidad técnica es más complicada. En febrero de este año, Nick Clegg, presidente de Asuntos Globales de Meta, reconoció públicamente que aún no es posible identificar todos los contenidos generados por IA, incluso en plataformas como Google, Microsoft, Adobe, MidJourney y Shutterstock. Peor aún, creadores ya han encontrado formas de eliminar los marcadores. Meta respondió con Stable Signature, una tecnología que integra marcas de agua directamente en el proceso de generación de imágenes de manera que no puedan desactivarse. La empresa también advirtió que en los próximos años, quienes quieran engañar activamente con contenidos generados por IA buscarán nuevas formas de eludir las salvaguardias. Es una carrera sin fin.
El reglamento también establece una clasificación de riesgos para los sistemas de IA: inaceptable, alto, medio y bajo, según su afectación al trato equitativo, transparencia y derechos fundamentales. Los sistemas de riesgo inaceptable estarían prohibidos en el país. Esto incluye aquellos que modifiquen el comportamiento de una persona mediante técnicas subliminales o deliberadamente engañosas, o que clasifiquen la fiabilidad de una persona o colectivo de forma injustificada o desproporcionada. La Secretaría de Gobierno y Transformación Digital sería la autoridad encargada de dirigir, evaluar y supervisar el uso de la IA, y actualizaría esta lista de riesgos periódicamente.
Pero aquí surge el problema más grave: el reglamento no incluye ningún tipo de sanción por incumplimiento. Montezuma lo señala con claridad: "La Secretaría no tiene facultades sancionadoras. En todo el documento no existe ni una sola sanción o infracción, por lo que terminaría siendo solo un documento orientador". Sin castigos, ¿qué impediría que una empresa desarrolle un sistema de riesgo inaceptable? Aparentemente nada. El proyecto de ley presentado por la bancada de Podemos Perú (N° 7023/2023) intenta corregir esto, proponiendo que la Secretaría sí tenga facultad de sancionar con multas, retiro de registros, prohibiciones temporales o permanentes, y otras acciones correctivas según la gravedad de la infracción.
Otro aspecto que el reglamento incorpora es la promoción de talento en IA. Los diferentes niveles de gobierno podrían establecer programas para atraer y retener expertos nacionales y extranjeros en inteligencia artificial y ciencia de datos. Esto reconoce una realidad: la mayoría de universidades públicas y privadas en Perú ya han incorporado nuevas carreras y cursos relacionados con la IA. La propuesta estará en consulta pública hasta inicios de junio, momento en el cual se espera que tome forma definitiva. Lo que suceda entonces determinará si Perú logra un equilibrio entre innovación responsable o termina con regulaciones que, sin dientes para hacerse cumplir, queden como buenas intenciones en papel.
Citas Notables
Preocupa que siendo una tecnología aún en desarrollo se la regule de tal forma que podría limitar su máximo potencial— Oscar Montezuma, abogado especialista en IA
La Secretaría no tiene facultades sancionadoras. En todo el documento no existe ni una sola sanción o infracción, por lo que terminaría siendo solo un documento orientador— Oscar Montezuma
La Conversación del Hearth Otra perspectiva de la historia
¿Por qué un país como Perú decide regular la IA justo ahora, cuando la tecnología sigue evolucionando tan rápido?
Porque los daños ya están sucediendo. Imágenes falsas del papa Francisco circulan en redes sociales. Sistemas pueden manipular comportamientos o discriminar injustamente. Perú ve que otros países avanzan en regulación y decide no quedarse atrás, pero la prisa crea problemas.
El etiquetado suena sensato. ¿Cuál es el problema real?
El problema es que la tecnología ya está un paso adelante. Meta admite que no pueden identificar todos los contenidos generados por IA, y los creadores ya saben cómo eliminar las etiquetas. Es como poner un aviso en una botella de veneno cuando alguien ya inventó la forma de quitarlo.
Entonces, ¿el reglamento es inútil?
No es inútil, pero está incompleto. Establece qué está prohibido —sistemas que manipulen o discriminen— pero no dice qué pasa si alguien lo hace de todas formas. Sin sanciones, es solo una guía moral.
¿Y eso qué significa en la práctica?
Que una empresa podría desarrollar un sistema de riesgo inaceptable, alguien lo reporta, y la Secretaría de Gobierno solo puede... sugerir que no lo haga. No hay multas, no hay retiro de licencias, no hay consecuencias reales.
¿Hay alguien intentando arreglarlo?
Sí. Podemos Perú presentó un proyecto que daría a la Secretaría poder sancionador real: multas, prohibiciones, retiro de registros. Pero eso aún está en comisión, como las otras 15 iniciativas legislativas.
¿Qué preocupa más a los expertos?
Que la sobrerregulación mate la innovación. Un abogado especialista en IA lo dijo claramente: cuando internet apareció, no hubo sobrerregulación, y eso permitió que floreciera. Perú quiere proteger, pero teme hacerlo mal.