Deepfakes de IA com Lula e Flávio viralizam como memes em meio à disputa do segundo turno

Um vídeo publicado no X mostra o rosto de Lula sobre o corpo de Enzo Fernandez, jogador argentino, comemorando um gol na Copa do Mundo. A peça passou de nove milhões de visualizações na plataforma. Quem a publicou foi Antônio Guimarães, fundador e CTO da startup brasileira Real Oficial, e ela virou um símbolo de como a inteligência artificial chegou ao segundo turno da disputa presidencial: não como arma sombria, mas como piada.

Antes do período eleitoral, a maior preocupação da Justiça com a IA era a produção de deepfakes, técnica que cria ou altera vídeos para fazer parecer que uma pessoa real fez algo que nunca aconteceu. Em meio à tensão da reta final, porém, esse tipo de conteúdo se espalhou como meme, com apoiadores tanto de Flávio Bolsonaro (PL) quanto de Lula (PT) recorrendo ao recurso nas redes sociais.

O vídeo de Lula com a camisa argentina foi feito na Real Xablau, plataforma criada pela Real Oficial que gera conteúdo audiovisual de até 30 segundos. A mesma tecnologia, segundo a reportagem, foi usada em outro vídeo, publicado na semana passada pelo deputado federal Nikolas Ferreira (PL-MG). Nele, o senador Flávio Bolsonaro aparece em uma piscina, atirando para o alto com dois fuzis.

O mercado, diz o texto, vive um boom e uma forte concorrência entre ferramentas. A Higgsfield aparece como uma das maiores, mas nem sempre é possível identificar em qual plataforma determinado conteúdo foi criado. Essa dificuldade de rastrear a origem é parte central do problema.

O uso de IA para fins mais graves também já veio a público. Em setembro, surgiram casos de vídeos íntimos forjados com inteligência artificial envolvendo figuras públicas, como os ex-BBB Juliano Floss e Jonas Sulzbach.

Guimarães afirma que, ao menos na Xablau, pornografia é proibida. Segundo ele, um robô analisa os vídeos gerados o tempo todo: "O próprio robô identifica ‘muita pele’ no vídeo e automaticamente bloqueia. Quando o robô pega uso proibido, a conta é bloqueada na hora e o dinheiro volta pro usuário automaticamente". Ele cita outras regras: não é permitido usar imagens de pessoas reais sem autorização, retratar menores de idade ou produzir conteúdo com intenção de enganar. Vídeos que violem as diretrizes podem ser removidos, e as contas responsáveis, suspensas.

Quem se sentir prejudicado por um vídeo pode acionar a plataforma, já que, segundo o texto, é possível reconhecer usuários a partir de dados associados à criação. Vale notar que essas garantias são descritas pelo próprio fundador; a reportagem não traz verificação independente delas.

Guimarães defende a importância de uma empresa brasileira no setor. Para ele, os brasileiros estão entre os que mais consomem e criam vídeos curtos no mundo, mas usam majoritariamente ferramentas estrangeiras: "Elas não entendem nosso humor, nossa cultura, o que viraliza aqui, quais são nossas referências".

O que se acompanha daqui em diante é se a moderação das plataformas e a atuação da Justiça Eleitoral darão conta de separar o meme assumido do conteúdo feito para enganar, num segundo turno em que os dois lados usam a mesma tecnologia.