OpenAI marca textos do ChatGPT na UE com marca d'água invisível

A OpenAI começou a adicionar marcas d'água invisíveis aos textos e códigos gerados pelo ChatGPT e Codex dentro da União Europeia, uma resposta direta às exigências regulatórias que entram em vigor em dezembro. O método, chamado textGrain, funciona inserindo sinais imperceptíveis ao olho humano que permitem identificar, através de ferramentas especializadas, que um texto foi produzido pela inteligência artificial da empresa.

A empresa testou sua abordagem contra alternativas disponíveis no mercado e relatou resultados equivalentes ou superiores. O textGrain igualou ou superou o desempenho de outras soluções avaliadas, incluindo o SynthID para texto, segundo documentação da OpenAI. Mas a empresa não esconde as limitações do sistema. A detecção não é perfeita e pode falhar em situações reais de uso, reconheceu a OpenAI em comunicado oficial.

O detector enfrenta dois tipos de erro que comprometem sua confiabilidade. Pode indicar uma marca d'água onde ela não existe — um falso positivo — ou deixar passar uma marca d'água que está realmente presente — um falso negativo. Esse reconhecimento das falhas é significativo: a OpenAI admite que um bom desempenho em condições controladas não garante detecção confiável quando o sistema é usado no dia a dia, em contextos variados e imprevisíveis.

Para os clientes que acessam o ChatGPT através da API — a interface de programação que permite integração com outros sistemas — a marcação será opcional e desativada por padrão. Cada cliente poderá decidir se ativa a marca d'água, considerando suas próprias obrigações de transparência e a experiência que deseja oferecer aos seus usuários finais. A ferramenta de detecção, porém, não será disponibilizada publicamente no lançamento. Apenas pesquisadores aprovados e organizações especializadas terão acesso inicial, caso a caso. O relatório do detector indicará apenas se há uma marca d'água da OpenAI presente, sem identificar usuários específicos ou revelar o conteúdo das conversas e prompts que geraram o texto.

Esta medida segue um padrão estabelecido pela Anthropic, desenvolvedora do Claude, que anunciou iniciativa semelhante em agosto. A Anthropic também planeja inserir sinais em textos gerados por seus modelos de inteligência artificial para cumprir a legislação europeia. A exigência vem do artigo 50 da Lei de Inteligência Artificial da União Europeia, que obriga provedores de IA generativa a tornar seus textos identificáveis de forma legível por máquina — ou seja, detectável por software, não necessariamente por humanos.

A OpenAI e outras grandes empresas de tecnologia têm até 2 de dezembro para se adequar à regra. Essa data marca o ponto de inflexão em que a conformidade deixa de ser opcional e passa a ser obrigatória sob a lei europeia. A implementação da marca d'água invisível representa a estratégia da OpenAI para atender essa exigência, mesmo reconhecendo que o sistema não é infalível e que seu uso prático enfrentará desafios reais.