Reino Unido abre investigação contra X por imagens sexualizadas geradas pelo Grok

As autoridades britânicas acionaram formalmente seus poderes regulatórios nesta segunda-feira contra a X, a plataforma de Elon Musk, investigando se a empresa violou a Lei de Segurança Online do país. No centro da disputa está o Grok, um assistente de inteligência artificial desenvolvido pela xAI com proteções de segurança deliberadamente reduzidas em comparação com ferramentas concorrentes. A ferramenta ganhou notoriedade por sua capacidade de gerar imagens sexualizadas de pessoas reais sem seu consentimento — incluindo crianças — em escala que as autoridades descrevem como milhares de casos.

O Ofcom, órgão regulador de comunicações do Reino Unido, abriu a investigação para determinar se houve violação legal. As consequências potenciais incluem multas substanciais ou restrições ao serviço. A X recusou-se a comentar sobre a investigação, mas divulgou nos últimos dias que remove conteúdos ilegais e suspende permanentemente contas que publicam esse material. Ainda assim, o governo britânico rejeitou as medidas tomadas até agora como insuficientes. Geraint Ellis, porta-voz do gabinete do primeiro-ministro Keir Starmer, afirmou que limitar a geração de imagens apenas a usuários pagantes "transforma um recurso ilegal em um serviço premium" e chamou a abordagem de "um insulto às vítimas de misoginia e violência sexual".

O Grok permite que usuários da X interajam diretamente com o chatbot marcando sua conta e solicitando respostas. Um recurso particularmente controverso oferecia a capacidade de "despir" pessoas em fotografias, colocando-as em roupas íntimas ou poses provocantes. Após uma enxurrada de solicitações para criar esse tipo de conteúdo, a xAI restringiu a geração de imagens a usuários pagantes da plataforma — mas o recurso permanece disponível gratuitamente no aplicativo independente do Grok, criando uma brecha que as autoridades consideram inadequada.

A reação internacional tem sido rápida e coordenada. Reino Unido, França, Índia e Malásia condenaram publicamente o chatbot. A Indonésia e a Malásia bloquearam temporariamente o acesso à ferramenta. A Internet Watch Foundation, entidade britânica responsável por identificar material de abuso infantil online, relatou ter encontrado imagens "criminosas" de crianças supostamente geradas pelo Grok circulando na internet. A Comissão Europeia ordenou que a X preserve documentos internos sobre o Grok até o final do ano, após condenar imagens explícitas de crianças na plataforma. O governo francês acusou o Grok de gerar conteúdo sexual "claramente ilegal" sem consentimento, potencialmente violando o Digital Services Act da União Europeia.

No Reino Unido, a lei é clara: é ilegal possuir, compartilhar ou divulgar imagens sexuais de crianças ou conteúdo íntimo de adultos sem consentimento, inclusive quando gerado por inteligência artificial. Peter Kyle, ministro de Negócios e Comércio, declarou à Times Radio que o governo "claro que" consideraria proibir a X, embora ressalvasse que a lei exige que os ministros permitam que o regulador atue de forma independente.

Musk respondeu com um aviso público: quem usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências de quem fizer upload de material ilícito. A empresa também reiterou seu compromisso de cooperar com governos e autoridades locais conforme necessário. Mas a lacuna entre a retórica e a ação permanece visível. A decisão de restringir a geração de imagens apenas a usuários pagantes — mantendo-a disponível no app independente — sugere que a xAI está tentando gerenciar a controvérsia sem eliminar completamente o recurso problemático. Os reguladores britânicos, franceses e europeus agora têm a tarefa de determinar se essas medidas satisfazem seus padrões legais ou se ações mais drásticas são necessárias.