No estamos indefensos. Hay muchas herramientas jurídicas que se pueden utilizar.
Cuando una máquina decide sobre el empleo, el crédito o la salud de una persona, la pregunta sobre quién responde por el daño deja de ser filosófica para volverse urgente. Ricardo Lorenzetti, jurista y ex presidente de la Corte Suprema argentina, sostiene que el derecho ya posee los instrumentos necesarios para enfrentar los daños causados por la inteligencia artificial, aplicando principios clásicos de responsabilidad a fenómenos nuevos. No se trata de esperar leyes futuras, sino de reconocer que la protección existe y que conocerla es, en sí misma, una forma de libertad.
- Los algoritmos toman decisiones que afectan empleos, créditos y diagnósticos médicos sin explicar sus razones, dejando a las personas sin saber a quién reclamar.
- La discriminación, la violación de privacidad y los errores automatizados ya no son riesgos abstractos: ocurren hoy y perjudican a millones de personas concretas.
- Lorenzetti rechaza la narrativa de indefensión: diseñadores, desarrolladores, comercializadores y usuarios de IA pueden ser alcanzados por la responsabilidad legal existente.
- La asimetría de poder entre grandes empresas tecnológicas y usuarios individuales convierte a las auditorías, las medidas preventivas y el acceso a la justicia en herramientas indispensables.
- El llamado final no es de alarma sino de capacitación: saber que existen mecanismos de reclamo es una condición necesaria para defender derechos en una sociedad automatizada.
Cuando un algoritmo rechaza una solicitud de empleo o niega un crédito sin ofrecer explicación alguna, la sensación de indefensión puede parecer inevitable. Ricardo Lorenzetti, en su podcast disponible en Infobae y Spotify, confronta esa sensación con una afirmación directa: el derecho ya tiene herramientas para responder, y usarlas depende de conocerlas.
Los daños que puede causar la inteligencia artificial son variados y concretos. Los algoritmos reproducen los prejuicios presentes en los datos con que fueron entrenados, generando discriminación. Procesan información personal a escala masiva, amenazando la privacidad. Y simplemente se equivocan: vehículos autónomos fallan, sistemas de diagnóstico erran, plataformas manipulan decisiones con datos que los usuarios entregaron sin comprender las consecuencias.
Lorenzetti argumenta que los principios clásicos del derecho del consumidor son perfectamente aplicables a estos fenómenos. Quien introduce un producto riesgoso en la sociedad y obtiene beneficios económicos de él debe asumir también la responsabilidad por los daños que genera. Es un principio antiguo frente a un problema moderno, y la cadena de responsabilidad puede alcanzar a quienes diseñan, desarrollan, comercializan o utilizan estas tecnologías.
Pero reparar el daño después de que ocurre no es suficiente. Las medidas preventivas —exigir transparencia sobre el funcionamiento de los algoritmos, realizar auditorías independientes, suspender prácticas discriminatorias— adquieren una importancia creciente ante la enorme asimetría entre empresas tecnológicas y usuarios individuales. El mensaje de Lorenzetti es de capacitación: conocer los mecanismos disponibles para reclamar es, hoy, una condición indispensable para proteger la libertad y los derechos en una sociedad cada vez más gobernada por sistemas automatizados.
Cuando un algoritmo decide si mereces un empleo, un crédito o un diagnóstico médico, y esa decisión te perjudica, ¿a quién le reclamas? Ricardo Lorenzetti, en el episodio más reciente de su podcast disponible en Infobea y Spotify, enfrenta una pregunta que ya no es teórica: quién responde cuando la inteligencia artificial causa daño real en la vida de las personas.
La sensación de indefensión frente a estos sistemas es comprensible. Los algoritmos operan en la sombra. Un programa de selección de personal puede rechazarte sin que sepas por qué. Un mecanismo de otorgamiento de créditos puede negarte financiamiento basándose en patrones que ni siquiera los desarrolladores pueden explicar completamente. Un sistema de reconocimiento facial puede identificarte erróneamente. Pero Lorenzetti rechaza la idea de que estamos desprotegidos. "No estamos indefensos", dice. "Hay muchas acciones, hay muchas herramientas jurídicas que se pueden utilizar".
El desafío legal es real pero no insuperable. Los daños causados por sistemas automatizados dejaron de ser abstractos hace tiempo. Pueden ser discriminatorios: los algoritmos reproducen prejuicios existentes en los datos con los que fueron entrenados, generando exclusiones graves y decisiones injustificadas. Pueden violar la privacidad: la inteligencia artificial procesa enormes cantidades de información personal y reconstruye perfiles completos de las personas, abriendo nuevas formas de control sobre el comportamiento humano. Pueden ser simplemente erróneos: un vehículo autónomo falla, un sistema de diagnóstico se equivoca, una plataforma manipula decisiones usando datos que entregaste sin entender las consecuencias.
Lorenzetti sostiene que el derecho ya dispone de instrumentos para abordar estos problemas. No estamos en un desierto jurídico. La responsabilidad puede alcanzar a quienes diseñan, desarrollan, comercializan o utilizan estas tecnologías. Los principios jurídicos clásicos —especialmente los del derecho del consumidor— se pueden aplicar perfectamente a estos fenómenos nuevos. Quien introduce un producto riesgoso en la sociedad y obtiene beneficios económicos de ello debe asumir también la responsabilidad por los daños que genera. Es un principio antiguo enfrentado a un problema moderno.
Pero la reparación del daño después de que ocurre es solo parte de la solución. Las medidas preventivas adquieren importancia creciente: exigir información sobre cómo funcionan los algoritmos, realizar auditorías independientes, suspender prácticas que demuestren ser discriminatorias o manipuladoras. La asimetría entre grandes empresas tecnológicas y usuarios individuales es enorme. Muchas personas aceptan condiciones que no leen y entregan información sin advertir las consecuencias. Esa desigualdad hace que los mecanismos de protección y acceso a la justicia sean cada vez más relevantes.
Lo que Lorenzetti subraya es que esto no es un debate para especialistas en tecnología o abogados. Afecta la vida cotidiana de millones de personas. El uso de algoritmos para acceder a un empleo, obtener un crédito, contratar un servicio o recibir atención médica convierte a la inteligencia artificial en un fenómeno que atraviesa decisiones fundamentales. No es un problema futuro. Es presente.
El mensaje final es de capacitación más que de alarma. El derecho tiene una enorme capacidad de adaptación. La tarea consiste en aplicar principios ya existentes a problemas nuevos y, cuando sea necesario, desarrollar herramientas adicionales. Lo importante es saber que hay acciones disponibles, que hay mecanismos para reclamar, que conocer esas herramientas es una condición indispensable para proteger la libertad, la identidad y los derechos en una sociedad cada vez más atravesada por sistemas automatizados.
Citações Notáveis
Hay mucho miedo, mucha sensación de indefensión frente a la inteligencia artificial, pero no estamos indefensos— Ricardo Lorenzetti
Quien introduce un producto riesgoso en la sociedad tiene que asumir responsabilidades— Ricardo Lorenzetti
A Conversa do Hearth Outra perspectiva sobre a história
¿Por qué la gente siente tanta indefensión frente a la inteligencia artificial si, según dice Lorenzetti, existen herramientas legales?
Porque los algoritmos funcionan como cajas negras. No ves cómo se toma la decisión que te afecta. Un juez explica su sentencia, un banco te dice por qué rechazó tu crédito. Un algoritmo simplemente dice no, y nadie puede explicarte realmente por qué.
Pero entonces, ¿cómo se prueba que un algoritmo te discriminó si no sabes cómo funciona?
Eso es exactamente el problema que Lorenzetti está señalando. Por eso la prevención y la auditoría son tan importantes. No esperas a que alguien sea dañado y luego intentes probarlo. Exiges transparencia desde el principio, auditorías independientes, documentación de cómo se entrenó el sistema.
¿Y si la empresa que desarrolló el algoritmo simplemente dice que no puede revelar cómo funciona porque es secreto comercial?
Ahí es donde entra el derecho del consumidor. Si un producto es riesgoso, quien lo vende tiene que asumir responsabilidad por los daños. No puedes escudarte en el secreto comercial cuando hay vidas afectadas. El derecho ya tiene herramientas para eso.
¿Qué tipo de daños estamos hablando? ¿Solo económicos?
No. Un algoritmo discriminatorio puede costarte un empleo, sí, pero también puede afectar tu acceso a crédito, a servicios de salud, a oportunidades. Y hay daños más profundos: a tu privacidad, a tu identidad, a tu libertad de decisión cuando una plataforma manipula información para influir en ti.
¿Entonces el derecho actual es suficiente o necesitamos nuevas leyes?
Lorenzetti dice que el derecho actual tiene capacidad de adaptación. Los principios existen. Pero probablemente necesitemos herramientas adicionales específicamente diseñadas para la era digital. Auditorías obligatorias, derechos de explicación, acceso a datos personales. El derecho tiene que evolucionar junto con la tecnología.