Em um momento em que a fronteira entre a escrita humana e a geração por máquina se torna cada vez mais porosa, a OpenAI deu um passo concreto para tornar essa distinção rastreável: o textGrain insere uma assinatura estatística invisível nos textos do ChatGPT, moldando sutilmente as escolhas de palavras sem que o leitor comum perceba. A medida responde às exigências do AI Act europeu e ecoa um movimento mais amplo da indústria — já iniciado pela Anthropic — de criar mecanismos de transparência para conteúdos gerados por inteligência artificial. A tecnologia, porém, carrega consigo as contradiçõ
ChatGPT implementa marca-d'água invisível em textos gerados por IA
Editar 10% das palavras reduz a detecção de 92% para 66%
Mark
Por que a OpenAI está fazendo isso agora? Parece uma resposta a algo específico.
Mimi
É principalmente regulação europeia. O AI Act exige que conteúdos gerados por IA sejam identificáveis por máquinas. A OpenAI está se adiantando.
Luke
Mas espera — se o detector só funciona com 80% de precisão em textos curtos e cai para 17% se alguém editar 25% das palavras, quanto dessa "identificação" é realmente confiável?
Mimi
Ótima pergunta. Por isso a OpenAI não está liberando o detector para o público geral. Só para pesquisadores e organizações aprovadas.
Mark
Então é mais uma ferramenta de pesquisa do que uma solução pronta?
Luke
Exatamente. E há outra coisa: a marca-d'água não diz quanto do texto veio de uma pessoa versus da IA. Você pode ter um parágrafo inteiro escrito por um humano e o detector ainda vai acusar.
Mimi
Verdade. A tecnologia tem limitações claras. Mas o objetivo não é ser perfeita — é criar um padrão detectável que pelo menos sinalize quando a IA participou.
Mark
E no Brasil? Estamos fora disso?
Mimi
Por enquanto sim. A OpenAI está começando na União Europeia. Usuários brasileiros não recebem automaticamente, mas quem usa a API pode ativar voluntariamente.
Luke
Então é uma solução europeia para um problema europeu, por enquanto. Interessante que a Anthropic decidiu ir global com o Claude, mas a OpenAI não.
Mimi
Sim, a Anthropic disse que não conseguia limitar geograficamente de forma confiável. Estratégias diferentes para o mesmo problema.
O Pulso
- Reguladores europeus pressionam por transparência e a OpenAI responde com uma marca-d'água que age de dentro para fora — não como etiqueta visível, mas como padrão estatístico embutido na própria escolha das palavras.
- A tecnologia chega primeiro à União Europeia nas próximas semanas, deixando usuários brasileiros e de outros países fora do alcance automático do recurso, ao contrário da estratégia global adotada pela Anthropic com o Claude.
- Os números revelam fragilidade: substituir apenas 10% das palavras por sinônimos derruba a taxa de detecção de 92% para 66%, expondo o limite de qualquer marca-d'água baseada em probabilidade linguística.
- Para evitar o risco de falsos positivos e usos indevidos, o detector não será aberto ao público — apenas pesquisadores e organizações aprovadas terão acesso, repetindo o modelo cauteloso já adotado pela Anthropic.
Em um momento em que a fronteira entre a escrita humana e a geração por máquina se torna cada vez mais porosa, a OpenAI deu um passo concreto para tornar essa distinção rastreável: o textGrain insere uma assinatura estatística invisível nos textos do ChatGPT, moldando sutilmente as escolhas de palavras sem que o leitor comum perceba. A medida responde às exigências do AI Act europeu e ecoa um movimento mais amplo da indústria — já iniciado pela Anthropic — de criar mecanismos de transparência para conteúdos gerados por inteligência artificial. A tecnologia, porém, carrega consigo as contradições de qualquer ferramenta de rastreamento: detecta indícios, não certezas, e pode ser apagada com edições simples.
A OpenAI anunciou o textGrain, tecnologia que insere uma marca-d'água invisível nos textos gerados pelo ChatGPT. Ao contrário de métodos tradicionais, ela não adiciona caracteres ocultos nem etiquetas visíveis: age ajustando levemente as probabilidades de escolha de palavras durante a geração, criando um padrão estatístico detectável apenas por ferramentas específicas da empresa.
O recurso será implementado nas próximas semanas para usuários do ChatGPT e do Codex na União Europeia, em resposta ao AI Act europeu, que exige que conteúdos gerados por IA possam ser identificados por máquinas. Usuários no Brasil não receberão o carimbo automaticamente por enquanto. A iniciativa segue caminho similar ao da Anthropic, que em agosto adotou sua própria marca-d'água no Claude usando o SynthID-Text, do Google DeepMind.
Nos testes da OpenAI, o detector identificou a marca em cerca de 80% dos textos de 200 tokens e em aproximadamente 95% dos de 400 tokens — considerando uma taxa de 1% de falsos positivos. A empresa afirma que o textGrain igualou ou superou outras técnicas avaliadas e pretende disponibilizá-lo como código aberto.
As limitações, porém, são significativas. A marca-d'água indica apenas que um modelo da OpenAI provavelmente participou da produção ou edição do texto — não confirma autoria exclusiva nem verifica a veracidade das informações. E edições simples enfraquecem o sinal: trocar 10% das palavras por sinônimos reduz a detecção de 92% para 66%; com 25% de substituição, ela cai para 17%.
Por causa desses riscos, o detector não será disponibilizado publicamente de imediato. O acesso ficará restrito a pesquisadores e organizações aprovadas pela companhia — estratégia semelhante à da Anthropic, que oferece sua ferramenta em prévia privada para grupos como verificadores de fatos e veículos de imprensa. A OpenAI também deixou claro o que a tecnologia não faz: não revela a identidade do usuário, o prompt utilizado nem o contexto da conversa.
A OpenAI anunciou nesta segunda-feira uma tecnologia chamada textGrain que vai inserir uma marca-d'água invisível em textos gerados pelo ChatGPT. Diferentemente de marcas d'água tradicionais, o textGrain não aparece como etiqueta visível, não adiciona caracteres ocultos nem espaços extras — funciona alterando sutilmente as probabilidades das escolhas de palavras durante a geração do conteúdo, criando um padrão estatístico que apenas ferramentas específicas da empresa conseguem detectar.
O recurso será implementado nas próximas semanas para usuários do ChatGPT e do Codex na União Europeia, atendendo aos requisitos de transparência do AI Act europeu, que exige que conteúdos produzidos por sistemas de inteligência artificial possam ser identificados por máquinas. Usuários no Brasil não receberão o carimbo automaticamente por enquanto, embora clientes da API em qualquer país já possam ativar a tecnologia voluntariamente em modelos compatíveis. A medida segue um caminho similar adotado pela Anthropic, proprietária do Claude, que anunciou sua própria marca-d'água em agosto usando uma versão do SynthID-Text, tecnologia desenvolvida pelo Google DeepMind.
O funcionamento do textGrain é baseado em como modelos de linguagem geram texto. Esses modelos calculam diferentes possibilidades para a próxima palavra ou fragmento de palavra, conhecido como token. A tecnologia ajusta levemente essas probabilidades para que certas escolhas formem um padrão reconhecível ao longo do texto. Posteriormente, um detector da OpenAI pode procurar por esse padrão e indicar se um sistema da empresa provavelmente participou da geração ou edição daquele conteúdo. A OpenAI afirma que em seus testes o textGrain igualou ou superou a capacidade de detecção de outras técnicas avaliadas, incluindo o SynthID para textos, e pretende disponibilizar a tecnologia como código aberto.
No entanto, a tecnologia tem limitações significativas. A presença da marca-d'água não permite afirmar com certeza que um texto inteiro foi escrito pelo ChatGPT — apenas indica que um modelo da OpenAI provavelmente participou da produção ou edição, sem conseguir medir quanto do material veio de uma pessoa. Nos testes divulgados pela OpenAI, considerando uma taxa de 1% de falsos positivos, o detector encontrou a marca em aproximadamente 80% dos textos de 200 tokens analisados. Em passagens de 400 tokens, a taxa chegou a cerca de 95%, mas o desempenho varia conforme o tipo e o idioma do texto.
Editar o conteúdo reduz significativamente a chance de identificação. Em um experimento com textos de 400 tokens, substituir apenas 10% das palavras por sinônimos fez a taxa de detecção cair de aproximadamente 92% para 66%. Com a troca de 25% das palavras, ela caiu para 17%. Por causa dessas limitações e do risco de falsos positivos, a OpenAI não vai disponibilizar seu detector para qualquer pessoa inicialmente. O acesso será oferecido a pesquisadores e organizações especializadas aprovadas pela companhia. A Anthropic adotou uma estratégia parecida, oferecendo sua ferramenta de detecção em prévia privada para grupos como pesquisadores, veículos de imprensa, verificadores de fatos e autoridades.
A OpenAI também esclareceu o que a marca-d'água não faz: não revela quem utilizou o ChatGPT, qual foi o prompt enviado ou a conversa em que aquele conteúdo foi produzido. O sistema tampouco verifica se as informações do texto são verdadeiras. Diferentemente da OpenAI, a Anthropic decidiu implementar sua marca-d'água globalmente porque afirmou não ter uma forma suficientemente confiável de limitar o recurso geograficamente.
Citações Notáveis
A tecnologia ajusta levemente as probabilidades para que determinadas escolhas formem um padrão estatístico ao longo do texto— OpenAI, sobre como funciona o textGrain
A marca-d'água não revela quem utilizou o ChatGPT, qual foi o prompt enviado ou a conversa em que aquele conteúdo foi produzido— OpenAI, sobre limitações da tecnologia
Quer a matéria completa?
Leia o original em Canaltech ↗