Há uma pergunta antiga sobre quem deve decidir na Justiça, e ela ganha uma forma nova quando a ferramenta que lê os processos pode ser ensinada, em silêncio, a obedecer a quem não deveria. Em novembro de 2026, reportagens do Fantástico revelaram que advogados escondiam instruções em documentos para influenciar a IA usada por juízes, prática que já somou 83 episódios e multas no STJ e no STF. O alerta de que o risco pode crescer vem de dentro do próprio Judiciário: os agentes de IA, que agem sem aprovação humana a cada passo, tornam a fragilidade mais profunda, pois a ação pode se consumar ante
Juiz alerta que agentes de IA nos tribunais podem executar comandos ocultos e causar vazamentos de dados
Quando alguém perceber, a ação pode já ter sido executada
Mark
Se os comandos ocultos já existem, o que muda com os agentes?
Mimi
Hoje a IA produz um texto e um humano ainda decide o que fazer com ele. O agente age sozinho, abre arquivos, envia e-mails, roda programas. Quando alguém percebe, a ação pode já ter acontecido.
Luke
Convém separar: o risco dos agentes é uma avaliação de Marmelstein, não um vazamento comprovado. O exemplo dos processos sigilosos é explicitamente hipotético.
Mark
Mas os casos de comandos ocultos são reais, não?
Mimi
São. O Fantástico mostrou 83 episódios, com multas no STJ e no STF. E o STJ analisou quase 6 milhões de peças e confirmou 40 casos após análise humana.
Luke
Vale notar que 40 confirmados em 6 milhões é pouco, e esse número cobre só o STJ. Não diz nada sobre a taxa nos demais tribunais.
Mark
O que reduz o risco, então?
Mimi
Dar ao agente só o acesso de que a tarefa precisa e manter aprovação humana proporcional à gravidade da ação. Puppe lembra que o ataque exige acesso, falha das barreiras e um meio de execução.
Luke
E a fiscalização? A FGV diz que faltam padrões de auditoria. As regras existem, mas não sabemos o quanto são cumpridas, até porque 83% dos servidores dizem não informar quando usam IA.
Mimi
Por isso o PROSEG-IA importa: é uma frente permanente, não uma resposta pontual.
Luke
Ainda não há dados públicos sobre se algum agente já foi de fato explorado num tribunal brasileiro.
The Pulse
- Instruções invisíveis escondidas em petições já provocaram 83 episódios e multas em tribunais superiores.
- Agentes de IA encadeiam ações sozinhos, e uma ordem maliciosa pode vazar dados sob sigilo antes de qualquer alerta.
- O CNJ aprovou o PROSEG-IA e orientações sobre comandos ocultos, enquanto juízes e servidores correm para conter a brecha.
- O STJ já monitorou quase 6 milhões de peças e confirmou 40 casos, mas especialistas dizem que a fiscalização ainda não acompanha a velocidade da tecnologia.
Há uma pergunta antiga sobre quem deve decidir na Justiça, e ela ganha uma forma nova quando a ferramenta que lê os processos pode ser ensinada, em silêncio, a obedecer a quem não deveria. Em novembro de 2026, reportagens do Fantástico revelaram que advogados escondiam instruções em documentos para influenciar a IA usada por juízes, prática que já somou 83 episódios e multas no STJ e no STF. O alerta de que o risco pode crescer vem de dentro do próprio Judiciário: os agentes de IA, que agem sem aprovação humana a cada passo, tornam a fragilidade mais profunda, pois a ação pode se consumar antes que alguém perceba. O que se desenha é a tentativa, ainda incompleta, de manter o juízo humano como a última palavra sobre a justiça.
Numa reportagem do Fantástico, em 1º de novembro, o país soube que advogados vinham escondendo instruções dentro de documentos para tentar influenciar as ferramentas de inteligência artificial usadas por juízes. Foram identificados 83 episódios, e a prática já rendeu multas no STJ e no STF. Agora, o juiz federal George Marmelstein, membro do comitê de IA do CNJ, avisa que o problema pode se agravar com os agentes de IA.
A técnica se chama prompt injection: comandos ocultos, em letras brancas sobre fundo branco ou em códigos embutidos, que a máquina lê sem que uma pessoa perceba. A falha está em a ferramenta nem sempre distinguir a ordem do juiz de uma instrução plantada por terceiros. Diferentemente de uma IA que apenas devolve um texto, um agente abre arquivos, envia e-mails e executa programas sozinho. Se for manipulado, o estrago pode estar feito antes de alguém notar. Um exemplo hipotético da reportagem mostra um agente que envia a lista de processos sob sigilo a um endereço externo sem que o juiz saiba.
Para conter o risco, especialistas defendem que cada agente tenha apenas o acesso necessário e que a supervisão humana cresça conforme a gravidade da ação. O CNJ aprovou em maio o PROSEG-IA, uma frente permanente contra a manipulação, e em junho orientações sobre comandos ocultos. O STJ, por sua vez, monitorou quase 6 milhões de peças, encontrou 116 casos suspeitos e confirmou 40 após análise humana.
A tecnologia já está espalhada: a maioria dos magistrados usa o ChatGPT, e muitos não informam esse uso. Há quem tema que a disputa processual se torne uma corrida por quem melhor influencia o sistema que julga. Um relatório da FGV Direito SP considera o movimento promissor, mas insuficiente, pela falta de padrões de auditoria e fiscalização.
Numa reportagem exibida pelo Fantástico em 1º de novembro, o país soube que advogados vinham escondendo instruções dentro de documentos para tentar influenciar as ferramentas de inteligência artificial usadas por juízes na análise de processos. Foram identificados 83 episódios, e a prática já rendeu multas no Superior Tribunal de Justiça (STJ) e no Supremo Tribunal Federal (STF). Agora, um integrante do comitê de IA do Conselho Nacional de Justiça (CNJ) avisa que o problema pode ficar mais grave.
O alerta é do juiz federal George Marmelstein, membro do Comitê Nacional de Inteligência Artificial do Judiciário. Ele também é secretário-geral da Escola Nacional de Formação e Aperfeiçoamento de Magistrados (Enfam) e participou do grupo que redigiu a regulamentação do CNJ sobre o tema. Sua preocupação são os chamados agentes de IA.
A técnica usada nos casos já conhecidos chama-se prompt injection, ou injeção de comandos: instruções ocultas em conteúdos que serão lidos por uma IA, quase sempre imperceptíveis para uma pessoa. Podem estar em letras brancas sobre fundo branco, em fontes minúsculas ou em códigos embutidos no arquivo. A falha existe porque a ferramenta nem sempre distingue a ordem do juiz de uma orientação plantada por terceiros, como o advogado de uma das partes. O especialista em cibersegurança Matheus Vasconcelos explica que há mecanismos para separar essas origens, mas eles podem falhar, sobretudo quando o comando malicioso se apresenta como orientação oficial ou etapa necessária do trabalho.
No uso comum, a IA devolve um texto, um resumo ou uma imagem, e cabe a um humano decidir o que fazer com isso. Um agente vai além: recebe permissões para abrir arquivos, navegar na internet, preencher formulários, ler e enviar e-mails ou rodar programas, e encadeia essas ações sozinho, sem aprovação a cada passo. Se for manipulado, a ação pode já ter acontecido quando alguém notar. Para Marmelstein, os agentes apertam botões, executam códigos e criam documentos, e um código malicioso pode, por exemplo, capturar credenciais e dados. Segundo ele, o CNJ já percebe algum tipo de vulnerabilidade nos sistemas da Justiça por causa dos agentes. A reportagem oferece um exemplo hipotético: um agente que organiza peças de um processo encontra, em texto branco sobre fundo branco, a ordem de enviar a lista de processos sob segredo de justiça do gabinete a um endereço externo, e a cumpre sem que o juiz saiba.
O advogado Matheus Puppe, consultor da Comissão Especial de Direito Digital da Câmara, lembra que o ataque só produz efeito concreto se a ferramenta tiver acesso aos recursos envolvidos, se suas barreiras falharem e se existir um mecanismo capaz de executar a ação. Por isso, Vasconcelos defende que cada agente receba só o necessário: quem resume um processo não precisa, por padrão, de acesso a outros processos nem de permissão para enviar mensagens ou alterar registros. Arthur Igreja, especialista em tecnologia, propõe supervisão humana proporcional à gravidade da ação e à sensibilidade dos dados, como última barreira.
Em maio, o comitê aprovou o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário (PROSEG-IA), uma frente permanente contra a manipulação das ferramentas. Em junho, o CNJ aprovou orientações específicas sobre comandos ocultos, que complementam a regulamentação de 2025, a qual exige supervisão humana, segurança e governança. Na quarta-feira (11), o presidente do STJ, ministro Luis Felipe Salomão, apresentou o balanço do monitoramento: quase 6 milhões de peças analisadas, 116 casos suspeitos, 40 confirmados após análise humana, ou um caso a cada 150.000 peças. O próximo passo, disse, é mapear "ondas de litigiosidade", aumentos bruscos de processos sobre um mesmo tema.
A tecnologia já está espalhada. Levantamento do CNJ referente a 2024 contou 178 projetos de IA nos tribunais, e cerca de 45,8% dos tribunais e conselhos participantes usavam IA generativa. O ChatGPT era usado por 96% dos magistrados e 94% dos demais servidores; 83% disseram não informar quando recorrem à ferramenta. Pelas regras, juízes podem usar IA para resumir documentos, organizar provas, pesquisar decisões e preparar rascunhos, mas não delegar a avaliação das provas nem o mérito da causa.
A professora Ana Frazão, da UnB, teme que a disputa processual vire uma disputa por quem tem a melhor tecnologia para influenciar o sistema que julgará a causa. Ela também questiona o uso de plataformas comerciais como ChatGPT, Claude, Copilot e Gemini, por causa da dificuldade de fiscalização e de possíveis conflitos de interesse, e acha que o CNJ deveria proibi-las. Marmelstein reconhece que o tema dividiu a elaboração das regras: o ideal seria uma IA soberana em cada tribunal, mas, enquanto o Judiciário não tem soluções tão avançadas, a contratação foi mantida, desde que cumpridas as exigências. Daniel Ângelo Luiz da Silva lembra que ferramentas dos próprios tribunais também podem ser vulneráveis. Um relatório da FGV Direito SP de 2026 considera o movimento promissor, mas insuficiente, por faltar detalhamento técnico, padrões de auditoria e fiscalização.
Notable Quotes
Os agentes apertam botões, executam códigos, criam documentos. Eles têm essa questão do fazer.— George Marmelstein, juiz federal e membro do Comitê Nacional de IA do Judiciário
A supervisão e a aprovação humana precisam ser proporcionais à gravidade da ação, ao risco potencial e à sensibilidade dos dados.— Arthur Igreja, especialista em Tecnologia e Inovação
Want the full story?
Read the original at G1 ↗