En la justicia española, dos de sus pilares institucionales decidieron en la misma jornada poner orden en el uso de la inteligencia artificial, después de que circulasen escritos y sentencias con jurisprudencia inventada y citas textuales que nunca existieron. Es una escena antigua en su lógica: una herramienta nueva promete ahorrar trabajo y, a la vez, traslada la responsabilidad a quien firma. El Consejo General del Poder Judicial y el Consejo General de la Abogacía han respondido con normas distintas, pero con una misma convicción: la máquina puede ayudar, aunque nunca puede responder en lu
El Poder Judicial y la Abogacía afinan protocolos ante el uso indebido de la IA en escritos y sentencias
La IA es una función auxiliar, sujeta a supervisión humana
Mark
¿Qué hizo exactamente el CGPJ este viernes?
Mimi
Aprobó un protocolo para centralizar las dudas de jueces y magistrados sobre IA. Una dirección de protección de datos prepara un borrador, una comisión de innovación lo estudia y la respuesta se publica en la web del CGPJ.
Mark
¿Y la Abogacía?
Mimi
Aprobó una circular que regula la elaboración, firma y entrega de escritos con IA. Dice que la IA es auxiliar y que el abogado responde si no verifica.
Luke
Conviene separar lo que está confirmado. Hay un expediente abierto a un magistrado, pero la sanción, suspensión y multa, es solo una posibilidad.
Mark
¿Qué cambia con la idea de que la infracción se consuma al presentar el escrito?
Mimi
Que corregir antes de entregar puede evitar la responsabilidad, porque el abogado sí verificó. El control previo es lo que cuenta.
Luke
Aun así, la circular habla de que eso "podría" impedir la infracción. No es una garantía.
Mark
¿Sabemos cuántos casos de citas falsas hay?
Luke
No. La fuente habla de "distintos casos" sin cifras, así que no se puede medir la magnitud del problema.
Mimi
Lo que sí se ve es que ambas instituciones reaccionan el mismo día.
Luke
Y si funcionarán lo dirá la evolución de los casos, que por ahora es desconocida.
Le Pouls
- Un juez se enfrenta a un expediente y a una posible suspensión tras haber usado IA para redactar el borrador de una sentencia.
- Los escritos con jurisprudencia inventada y frases falsas han sacudido la confianza en los documentos que llegan a los tribunales.
- El CGPJ canaliza todas las dudas de jueces sobre IA a través de un procedimiento centralizado que pasa por supervisión, comisión técnica y publicación.
- La Abogacía fija que la IA es solo auxiliar y que el profesional responde por cada error no verificado, con la posibilidad de corregirlo antes de presentarlo.
- El desenlace aún está abierto: falta saber si estas normas reducirán las citas falsas y qué sanciones acabará recibiendo el magistrado.
En la justicia española, dos de sus pilares institucionales decidieron en la misma jornada poner orden en el uso de la inteligencia artificial, después de que circulasen escritos y sentencias con jurisprudencia inventada y citas textuales que nunca existieron. Es una escena antigua en su lógica: una herramienta nueva promete ahorrar trabajo y, a la vez, traslada la responsabilidad a quien firma. El Consejo General del Poder Judicial y el Consejo General de la Abogacía han respondido con normas distintas, pero con una misma convicción: la máquina puede ayudar, aunque nunca puede responder en lugar de la persona que verifica.
Este viernes, el Consejo General del Poder Judicial y el Consejo General de la Abogacía Española aprobaron, cada uno por su lado, normas para el uso de la inteligencia artificial. Lo hicieron tras conocerse casos de escritos y sentencias elaborados con estas herramientas que contenían jurisprudencia inventada y frases textuales falsas.
El CGPJ creó un protocolo para centralizar todas las consultas de jueces y magistrados sobre sistemas de IA. Las dudas llegarán a la Dirección de Supervisión y Control de Protección de Datos, que preparará un borrador de respuesta. Después lo estudiará la Comisión de Innovación Tecnológica y Transformación Digital, y la respuesta definitiva se enviará al consultante y se publicará en la web del organismo. La medida llega poco después de que se supiera que un magistrado está expedientado por haber usado IA para redactar el borrador de una sentencia, con riesgo de suspensión y multa.
El mismo día, el Pleno de la Abogacía aprobó una circular interpretativa que regula cómo se elaboran, firman y entregan los escritos generados con IA. Su premisa es que la herramienta es auxiliar, no sustituta, y que los errores no verificados generan responsabilidad profesional. Se recomienda conocer bien las herramientas, no usar resultados sin revisión completa y contrastar siempre con fuentes fiables.
La infracción se consuma al presentar el escrito erróneo, pero corregirlo a tiempo puede evitarla, porque entonces el profesional sí ejerció el control. Queda por ver si estas normas frenan las citas falsas y en qué acaban las posibles sanciones al magistrado.
Este viernes, dos de las instituciones centrales de la justicia española aprobaron por separado normas para el uso de la inteligencia artificial. El Consejo General del Poder Judicial (CGPJ) y el Consejo General de la Abogacía Española respondieron así a los casos que se han ido conociendo de escritos y sentencias elaborados con estas herramientas, que contenían jurisprudencia inventada y frases textuales falsas.
El CGPJ aprobó un protocolo para gestionar de forma centralizada todas las dudas y consultas de jueces y magistrados sobre el uso de sistemas de IA. El procedimiento tiene tres pasos. La Dirección de Supervisión y Control de Protección de Datos recibirá todas las consultas y preparará un borrador de respuesta. Ese borrador pasará a la Comisión de Innovación Tecnológica y Transformación Digital, que lo estudiará. La respuesta definitiva se enviará al órgano o a la persona que consultó y se publicará también en la página web del CGPJ.
La decisión llega poco después de un caso concreto. La semana pasada se supo que el Poder Judicial ha abierto un expediente a un magistrado que utilizó IA para elaborar el borrador de una sentencia. El juez se expone a una posible suspensión y a una multa.
El mismo viernes, el Pleno del Consejo General de la Abogacía Española aprobó una circular interpretativa que regula cómo se elaboran, se firman y se entregan los escritos generados con IA. Su idea central es que los errores producidos por estos sistemas pueden generar responsabilidad profesional por falta de verificación y control.
La circular insiste en que la IA es una herramienta auxiliar y no un sustituto del abogado. El texto lo expresa así: "La IA dista mucho de carecer de riesgos y, por tanto, no debe operar como un sustituto del profesional de la abogacía, sino como una función auxiliar, sujeta además a supervisión humana".
El documento da además recomendaciones prácticas. Los profesionales deben conocer a fondo las herramientas que utilizan, no emplear resultados sin una revisión completa y contrastar siempre la información con fuentes jurídicas fiables.
La circular precisa también cuándo se comete la infracción. Según el Consejo, se consuma en el momento de presentar el escrito erróneo. Corregirlo antes de entregarlo puede evitar la responsabilidad, porque en ese caso el profesional sí ha realizado la tarea de control o verificación. El texto señala que la rectificación a tiempo del documento erróneo podría impedir la consumación de la infracción de resultado.
Queda por ver si estos protocolos reducen los casos de sentencias y escritos con citas falsas, y en qué terminan las posibles sanciones al magistrado expedientado.
Citations marquantes
La IA dista mucho de carecer de riesgos y, por tanto, no debe operar como un sustituto del profesional de la abogacía, sino como una función auxiliar, sujeta además a supervisión humana.— Circular del Consejo General de la Abogacía Española
Envie de l'histoire complète ?
Lire l'original sur El Economista ↗
World & Diplomacy