Em Boston, especialistas da OpenAI e da Meta compareceram diante de um comitê judicial americano para testemunhar algo que desafia um dos pilares da justiça: a possibilidade de distinguir o verdadeiro do falso. A inteligência artificial generativa tornou vídeos e áudios fabricados tão convincentes que nem os próprios criadores dessas ferramentas acreditam que existirá, um dia, um método científico infalível para identificá-los. O sistema judiciário, construído sobre a confiabilidade das provas, enfrenta agora uma pergunta sem resposta fácil — como julgar com justiça quando a própria evidência
Deepfakes cada vez mais impossíveis de detectar, alertam OpenAI e Meta
Não acredito que haja, no futuro, uma maneira científica de detectá-las
Mark
Por que isso importa agora, se apenas 15 juízes em 931 enfrentaram casos assim?
Mimi
Porque estamos em um ponto de inflexão. A tecnologia está ficando mais acessível e mais realista. Os casos ainda são raros, mas quando começarem a aparecer em massa, os tribunais não terão ferramentas confiáveis para lidar com eles.
Luke
Mas espera — esses 15 casos, eles realmente envolveram deepfakes comprovados, ou apenas suspeitas? Porque há uma diferença entre "uma das partes contestou uma prova" e "um deepfake foi realmente usado como evidência".
Mimi
Ótima pergunta. A pesquisa do Centro Federal do Judiciário não especifica se os deepfakes foram confirmados. Apenas que os juízes enfrentaram contestações baseadas em suspeita.
Mark
E quanto às marcas-d'água? Não resolvem o problema?
Mimi
Teoricamente, sim. Mas Anderson deixou claro que não há um padrão universal. Cada empresa usa seu próprio sistema, então a verificação fica fragmentada e vulnerável.
Luke
Então estamos falando de um problema que ainda é principalmente teórico, mas com especialistas concordando que será real em breve. Isso é importante, mas é importante ser honesto sobre o que sabemos e o que estamos prevendo.
Mimi
Exatamente. O risco é real, a tecnologia é real, mas os casos em tribunais ainda são exceção. O alerta faz sentido, mas não devemos confundir preocupação legítima com crise presente.
Mark
O que deveria estar acontecendo agora, então?
Mimi
Regulação mais clara, padrões de autenticação universais, e treinamento para juízes e peritos. Porque quando os casos chegarem, não será hora de improvisar.
The Pulse
- Especialistas da OpenAI e da Meta admitiram publicamente que deepfakes já atingiram um nível de realismo que torna sua detecção praticamente impossível, mesmo para olhos treinados.
- O alerta foi feito justamente para quem mais precisa de certeza: juízes americanos reunidos em Boston para debater como garantir a autenticidade de provas em tribunais.
- Criar um vídeo ou áudio falso convincente exige hoje pouco tempo e pouco dinheiro, ampliando o risco de que inocentes sejam condenados ou reputações destruídas por evidências fabricadas.
- Apesar da gravidade do alerta, a ameaça ainda é mais teórica do que prática — apenas 15 de 931 juízes relataram ter enfrentado um caso real envolvendo deepfakes até março de 2026.
- Leis na Califórnia e na União Europeia já exigem marcas-d'água em conteúdo gerado por IA, mas a própria OpenAI reconhece que nenhum sistema universal garante identificação segura.
- O consenso entre especialistas é sombrio: quando os deepfakes chegarem aos tribunais em escala, não haverá solução tecnológica pronta para enfrentá-los.
Em Boston, especialistas da OpenAI e da Meta compareceram diante de um comitê judicial americano para testemunhar algo que desafia um dos pilares da justiça: a possibilidade de distinguir o verdadeiro do falso. A inteligência artificial generativa tornou vídeos e áudios fabricados tão convincentes que nem os próprios criadores dessas ferramentas acreditam que existirá, um dia, um método científico infalível para identificá-los. O sistema judiciário, construído sobre a confiabilidade das provas, enfrenta agora uma pergunta sem resposta fácil — como julgar com justiça quando a própria evidência pode ser uma ilusão perfeita.
Na quinta-feira, durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, especialistas da OpenAI e da Meta lançaram um alerta que vai além do mundo da tecnologia: vídeos e áudios falsificados por inteligência artificial tornaram-se tão realistas que distingui-los de conteúdo genuíno é, na prática, quase impossível.
Shira Anderson, consultora de políticas da OpenAI, foi direta: as imagens geradas por IA melhoram constantemente, e ela não acredita que existirá, no futuro, uma maneira científica de detectá-las. Devin Norder, da Meta, reforçou o ponto — os modelos mais avançados já produzem conteúdo indistinguível de mídia autêntica, e criá-lo exige pouco tempo e pouco dinheiro. A pergunta que paira sobre os tribunais é grave: se uma prova pode ser falsificada com tamanha facilidade, como garantir que a justiça se baseia em fatos verdadeiros?
O comitê debate o tema desde 2023, mas a realidade dos tribunais americanos ainda está longe de um cenário de crise. Em março, o Centro Federal do Judiciário informou que apenas 15 dos 931 juízes consultados haviam enfrentado um caso em que uma prova foi contestada por suspeita de ser um deepfake. O juiz federal Jesse Furman, que preside o comitê, reconheceu a distância entre a preocupação teórica e a prática cotidiana.
Ainda assim, especialistas da indústria, da academia e do governo não tratam o risco como hipotético. Na Califórnia e na União Europeia, novas leis já exigem marcas-d'água em conteúdo gerado por IA — sinais incorporados para indicar a origem do material. Mas Anderson alertou que não existe um método universal capaz de identificar com segurança todas essas marcas, já que cada empresa utiliza seu próprio sistema. Sua conclusão é honesta e desconfortável: a tecnologia continuará melhorando, mas nunca será à prova de falhas.
O que emerge desse debate é uma corrida assimétrica: a tecnologia avança mais rápido do que a capacidade de regulá-la ou detectá-la. Os casos ainda são raros, mas a tendência é clara — e quando os deepfakes chegarem aos tribunais em escala, não haverá um botão mágico para identificá-los.
Na quinta-feira, especialistas da OpenAI e da Meta fizeram um alerta que ressoa além dos laboratórios de tecnologia: os vídeos e áudios falsificados por inteligência artificial tornaram-se tão sofisticados que distingui-los do conteúdo genuíno virou uma tarefa praticamente impossível. O aviso foi feito durante uma reunião em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos EUA, um órgão que há três anos tenta encontrar respostas para um problema que ainda não tem solução clara.
O que preocupa os juízes e especialistas é simples e profundo: se as provas apresentadas em um tribunal podem ser falsificadas com tanta facilidade e realismo, como garantir que a justiça se baseia em fatos verdadeiros? Shira Anderson, consultora de políticas da OpenAI, foi direto ao ponto. As imagens geradas por IA estão melhorando constantemente, disse ela, e ela não acredita que exista, no futuro, uma maneira científica de detectá-las. Devin Norder, diretor de gestão de produtos da Meta, reforçou a mensagem: os modelos de IA mais avançados já produzem conteúdo indistinguível, para os olhos humanos, de mídia autêntica. E o pior: criar esse material exige pouco tempo e pouco dinheiro.
Desde 2023, o comitê debate como verificar a autenticidade de materiais suspeitos de serem deepfakes e como garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade exigidos de outras evidências. A questão é técnica, mas suas implicações são jurídicas e sociais. Um vídeo falso pode condenar um inocente. Um áudio manipulado pode destruir uma reputação. No entanto, a realidade dos tribunais americanos ainda está longe desse cenário apocalíptico. Em março, o Centro Federal do Judiciário informou que apenas 15 dos 931 juízes que responderam a uma pesquisa haviam enfrentado um caso em que uma das partes contestou uma prova por suspeitar que ela fosse um deepfake. O juiz federal Jesse Furman, de Manhattan, que preside o comitê, reconheceu a lacuna entre a preocupação teórica e a prática: há muitos comentários acadêmicos prevendo que os tribunais terão de lidar com deepfakes, mas ainda não se viu muitos casos desse tipo.
Mas especialistas da indústria, da academia e do governo não descartam o risco como meramente hipotético. Para eles, será cada vez mais difícil para os tribunais identificar provas fabricadas com inteligência artificial, e o tempo para agir é agora. Na Califórnia e na União Europeia, novas leis já exigem o uso de marcas-d'água para ajudar a identificar materiais falsificados por IA. Essas marcas são sinais incorporados ao conteúdo para indicar sua origem ou auxiliar na identificação. Parece uma solução. Mas Anderson alertou que não existe um método universal capaz de identificar com segurança todas essas marcas ou confirmar a autenticidade de um conteúdo visual. Como cada empresa utiliza seu próprio sistema, a verificação continua sujeita a limitações. Sua conclusão é ao mesmo tempo honesta e desconfortável: isso certamente continuará melhorando, mas não acredita que algum dia será à prova de falhas.
O que fica claro é que o sistema judiciário americano está em uma corrida contra uma tecnologia que avança mais rápido do que a capacidade de regulá-la ou detectá-la. Os casos ainda são raros, mas a tendência é clara. Quando os deepfakes chegarem aos tribunais em escala, não haverá um botão mágico para identificá-los.
Notable Quotes
As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las— Shira Anderson, consultora de políticas da OpenAI
Conteúdos criados pelos modelos de IA mais avançados já podem ser indistinguíveis, para os seres humanos, de mídias autênticas— Devin Norder, diretor de gestão de produtos da Meta
Want the full story?
Read the original at G1 ↗
Technology