En un momento en que las administraciones públicas se enfrentan a la seducción y el riesgo de la inteligencia artificial, el Ayuntamiento de València ha decidido no esperar a que los errores ocurran. La creación del Comité de Ética y Gobernanza de la IA —Cegia— representa una apuesta por la vigilancia anticipada: un órgano técnico real que supervisará cómo los algoritmos municipales afectan la vida de los ciudadanos. Es la respuesta de una ciudad que reconoce que el poder de las máquinas exige, más que nunca, la responsabilidad de las personas.
València crea comité de ética para regular el uso de inteligencia artificial en la administración
Las máquinas pueden recomendar, pero personas reales deben supervisar
Mark
¿Por qué necesita Valencia un comité de ética específicamente para la inteligencia artificial? ¿No tiene ya órganos de control?
Mimi
Tiene órganos de control, claro, pero la IA es diferente. Un algoritmo puede discriminar sin que nadie lo vea venir, sin intención. Los sistemas tradicionales de supervisión no están diseñados para detectar eso.
Luke
Pero espera. ¿Cuántos sistemas de IA está usando ya el Ayuntamiento de Valencia? Porque si no hay sistemas en marcha, el comité es una estructura sin contenido.
Mimi
Eso es una buena pregunta. La noticia no especifica cuáles son los sistemas actuales. Pero la Sindicatura de Comptes ha estado pidiendo esto durante años, así que probablemente hay algo en marcha.
Mark
¿Qué poder real tiene el comité? ¿Puede detener un proyecto de IA?
Mimi
Según la descripción, es un órgano de "seguimiento, asesoramiento y control". Eso suena a que puede revisar, aconsejar, y supervisar. Pero la noticia no dice explícitamente si puede vetar algo.
Luke
Exacto. "Control" es vago. ¿Significa poder de decisión o solo poder de recomendación? Eso es crucial y no está claro.
Mark
¿Quién está en el comité?
Mimi
Responsables de varios departamentos: Secretaría, Empleo, sistemas de información, Innovación, Tributaria, Sociedad de la Información, y la fundación Las Naves.
Luke
Pero ¿quiénes son esas personas específicamente? ¿Tienen experiencia en ética o en IA? La noticia no lo dice.
Mark
¿Cuál es el primer problema que debería abordar?
Mimi
Probablemente los sesgos algorítmicos. Si un sistema de IA discrimina en la asignación de recursos o servicios, eso es un daño inmediato.
Luke
Pero de nuevo: ¿hay un sistema así en marcha ahora? ¿O es el comité preparándose para algo que podría venir?
Der Puls
- La inteligencia artificial ya opera en servicios públicos, y sin supervisión adecuada puede discriminar, filtrar datos o tomar decisiones injustas sin que nadie lo advierta a tiempo.
- La Sindicatura de Comptes lleva años alertando a los municipios valencianos sobre la ausencia de marcos normativos claros para adoptar tecnología de forma ética y responsable.
- El Ayuntamiento responde creando el Cegia, un comité técnico con poder real de seguimiento, asesoramiento y control sobre todos los sistemas de IA que use la administración.
- El comité aborda cuatro frentes críticos: sesgos algorítmicos, trazabilidad de decisiones automatizadas, protección de datos ciudadanos y supervisión humana efectiva.
- Con una estructura multidepartamental que incluye desde Secretaría hasta la fundación Las Naves, València trata la IA como un asunto de gobierno integral, no solo tecnológico.
En un momento en que las administraciones públicas se enfrentan a la seducción y el riesgo de la inteligencia artificial, el Ayuntamiento de València ha decidido no esperar a que los errores ocurran. La creación del Comité de Ética y Gobernanza de la IA —Cegia— representa una apuesta por la vigilancia anticipada: un órgano técnico real que supervisará cómo los algoritmos municipales afectan la vida de los ciudadanos. Es la respuesta de una ciudad que reconoce que el poder de las máquinas exige, más que nunca, la responsabilidad de las personas.
El Ayuntamiento de València ha creado el Comité de Ética y Gobernanza de la Inteligencia Artificial —Cegia—, un órgano técnico con capacidad real de seguimiento, asesoramiento y control sobre los sistemas de IA que utilice la administración municipal. La iniciativa parte de la concejala de Innovación y Tecnología, Paula Llobet, y responde a años de recomendaciones de la Sindicatura de Comptes, que ha insistido en la necesidad de marcos normativos claros para que los gobiernos locales adopten nuevas tecnologías de forma ética.
La ciudad ha identificado cuatro desafíos concretos que justifican la existencia del comité: los sesgos algorítmicos que pueden perpetuar desigualdades sin intención, la necesidad de que cualquier algoritmo municipal sea explicable y trazable, la protección de los datos personales que los sistemas de IA procesan, y la garantía de que personas reales supervisen y puedan intervenir en las decisiones automatizadas.
El Cegia estará presidido por la titular de la Concejalía de Tecnología y Agenda Digital, e integrará responsables de Secretaría, Empleo, SerTIC, Innovación, Coordinación Tributaria, Sociedad de la Información y la fundación Las Naves. Esta composición multidepartamental refleja la convicción de que la inteligencia artificial no es solo un asunto técnico, sino un asunto de gobierno. El comité representa, en esencia, la apuesta de València por una gobernanza anticipada: construir los mecanismos de control antes de que los problemas lleguen, no después.
El Ayuntamiento de València acaba de crear un órgano nuevo dedicado a vigilar cómo la ciudad usa la inteligencia artificial en sus servicios. Se llama Comité de Ética y Gobernanza de la Inteligencia Artificial —Cegia, en siglas— y nace de una propuesta de Paula Llobet, concejala de Innovación, Tecnología, Agenda Digital y Captación de Inversiones. No es un gesto simbólico: el comité funcionará como un órgano técnico real, con poder de seguimiento, asesoramiento y control sobre los sistemas de IA que use la administración municipal.
La ciudad identifica cuatro problemas concretos que necesitan supervisión. Primero, los sesgos algorítmicos: los sistemas de inteligencia artificial pueden discriminar sin intención, perpetuando desigualdades si no se diseñan con cuidado. Segundo, la trazabilidad: cualquier algoritmo que use el Ayuntamiento debe poder explicarse, debe dejar un rastro claro de cómo funciona y por qué toma las decisiones que toma. Tercero, la protección de datos: los sistemas de IA procesan información sobre ciudadanos, y esa información debe estar protegida conforme a la ley. Cuarto, el control humano: las máquinas pueden recomendar decisiones, pero personas reales deben supervisarlas y poder intervenir.
El propósito declarado del comité es "velar por el desarrollo y uso responsable, justo y conforme a derecho de los sistemas de inteligencia artificial entre los distintos servicios municipales". En otras palabras: que cuando el Ayuntamiento use IA —ya sea para procesar solicitudes, analizar datos, o cualquier otra función— lo haga de forma que respete los derechos de los ciudadanos y no cause daño.
Esta iniciativa no surge de la nada. La Sindicatura de Comptes, el órgano de control de las corporaciones locales en la Comunitat Valenciana, ha estado señalando durante años que los municipios necesitan marcos normativos claros para adoptar nuevas tecnologías de forma ética. En 2023, la Sindicatura destacaba específicamente la necesidad de que los gobiernos locales definieran estrategias municipales claras para la inteligencia artificial responsable. El Ayuntamiento de València ha escuchado esa recomendación y ha actuado.
El comité estará presidido por la persona titular de la Concejalía de Tecnología y Agenda Digital. Su composición incluye responsables de varios departamentos municipales: Secretaría, Empleo, SerTIC (el área de sistemas de información), Innovación, Coordinación Tributaria, Sociedad de la Información, y también la fundación Las Naves, que es el espacio de innovación de la ciudad. Esta estructura multidepartamental sugiere que el Ayuntamiento ve la inteligencia artificial como un asunto que toca múltiples áreas del gobierno municipal, no solo tecnología.
Lo que el comité representa es una apuesta por la gobernanza anticipada. En lugar de esperar a que surjan problemas —discriminación en un algoritmo de selección, filtraciones de datos, decisiones automatizadas injustas— la ciudad está creando un mecanismo de control previo. Es una respuesta a un dilema real: la inteligencia artificial es cada vez más útil para las administraciones públicas, pero también más poderosa y más capaz de causar daño si no se gestiona bien. El comité de ética es el intento de Valencia de navegar ese equilibrio.
Bemerkenswerte Zitate
Velar por el desarrollo y uso responsable, justo y conforme a derecho de los sistemas de inteligencia artificial entre los distintos servicios municipales— Ayuntamiento de Valencia, sobre el propósito del comité
Möchten Sie die ganze Geschichte?
Das Original lesen bei Europa Press ↗
World & Diplomacy