ONU alerta: armas autônomas com IA próximas de cruzar 'linha vermelha moral'

A Organização das Nações Unidas e o Comitê Internacional da Cruz Vermelha emitiram um alerta conjunto sobre uma tecnologia que está mudando a natureza da guerra: armas autônomas controladas por inteligência artificial, capazes de selecionar e atacar alvos sem qualquer intervenção humana. O Secretário-Geral da ONU e o presidente do CICV descreveram essa capacidade como próxima de cruzar uma linha vermelha moral — um ponto de não retorno que, uma vez ultrapassado, tornaria impossível restaurar certos princípios fundamentais do direito humanitário internacional.

O que torna esse alerta particularmente urgente é a velocidade com que a tecnologia está avançando. Drones controlados por IA já estão sendo utilizados em conflitos contemporâneos, e a tendência é que se tornem cada vez mais sofisticados e autônomos. As duas organizações não estão pedindo uma proibição vaga ou futura — estão pedindo ação imediata, normas internacionais concretas que estabeleçam limites globais para o desenvolvimento e uso dessas máquinas.

O risco humanitário é claro e direto. Armas autônomas sem supervisão humana representam uma ameaça sem precedentes aos civis em zonas de conflito. Diferentemente de um soldado ou operador de drone que pode avaliar uma situação, reconhecer contexto, e fazer julgamentos morais no momento, um sistema autônomo opera dentro de parâmetros programados — e esses parâmetros podem ser falhos, podem ser manipulados, ou podem simplesmente não conseguir captar a complexidade de uma situação real. Um algoritmo não consegue entender rendição, não consegue reconhecer um hospital, não consegue hesitar diante de uma criança.

O que as organizações estão pedindo é que os governos do mundo estabeleçam regras antes que essa tecnologia se torne tão disseminada e tão integrada aos arsenais militares que seja impossível controlá-la. Estão pedindo que se mantenha um elemento humano essencial na cadeia de decisão — que uma pessoa, um ser humano responsável, continue tendo a autoridade final sobre a vida e a morte. Isso não é uma posição radical; é uma tentativa de preservar princípios que já existem no direito internacional há décadas.

O desafio agora é político e diplomático. Diferentes países têm diferentes interesses em relação a essas tecnologias. Alguns veem as armas autônomas como uma vantagem militar estratégica. Outros estão genuinamente preocupados com as implicações éticas. E há ainda aqueles que simplesmente não têm capacidade de regular a tecnologia dentro de suas próprias fronteiras. Conseguir consenso global sobre normas vinculantes é uma tarefa monumental — mas é exatamente o tipo de tarefa que a ONU foi criada para enfrentar.

O que está em jogo não é apenas a guerra futura, mas a própria noção de responsabilidade humana em conflitos armados. Se máquinas podem matar sem supervisão, quem é responsável quando algo dá errado? Quem responde por crimes de guerra? Essas são perguntas que o direito internacional ainda não conseguiu responder adequadamente. E enquanto os governos discutem, a tecnologia continua avançando. O alerta da ONU e da Cruz Vermelha é um sinal de que o tempo para agir está se esgotando — que em breve pode ser tarde demais para estabelecer as barreiras que impeçam o cruzamento dessa linha vermelha.