OpenAI implementa marca d'água invisível em textos do ChatGPT na UE

A OpenAI anunciou nesta segunda-feira que começará a incorporar uma marca d'água invisível aos textos gerados pelo ChatGPT e pelo Codex dentro da União Europeia. A medida responde diretamente às exigências de transparência do EU AI Act, regulamentação que obriga conteúdos produzidos por inteligência artificial a serem identificáveis por sistemas de detecção. A implementação ocorrerá nas próximas semanas para usuários elegíveis em todos os planos de assinatura.

O sistema funciona de forma discreta. Em vez de adicionar um símbolo ou marcação visível, a tecnologia — chamada textGrain — altera sutilmente as escolhas de palavras que o modelo faz durante a geração de texto, criando um padrão estatístico que pode ser identificado por uma ferramenta específica de detecção. Como o sinal fica incorporado ao próprio texto, ele permanece presente mesmo quando o conteúdo é copiado e colado. A OpenAI afirma que a marca d'água não identifica o usuário individual e que seus testes não revelaram mudanças significativas no desempenho dos modelos quando o recurso está ativado.

O funcionamento técnico utiliza uma chave secreta para organizar as previsões de próximas palavras do modelo. Aplicações repetidas dessas alterações permitem que um detector procure o padrão no texto e avalie se ele contém uma marca d'água da OpenAI. A empresa divulgou um relatório técnico detalhando o processo, mas reconheceu abertamente as limitações da tecnologia. Em testes, quando 10% das palavras foram substituídas por sinônimos, a taxa de detecção caiu de aproximadamente 92% para 66%. Textos curtos, respostas matemáticas e conteúdos traduzidos também se mostraram mais difíceis de identificar.

A OpenAI deixou claro que a ausência de uma marca d'água não prova que um texto foi escrito por uma pessoa. O conteúdo pode ser muito breve, ter passado por múltiplas edições ou ter sido produzido por ferramentas de inteligência artificial de outras empresas. Igualmente importante: o sinal não revela quanto de participação humana houve na produção do texto. A detecção pode indicar que um sistema da OpenAI gerou ou processou parte de um conteúdo, mas não mostra quanto de julgamento, edição ou criatividade humana foi empregado.

Por enquanto, o acesso ao detector de marcas d'água será restrito a pesquisadores aprovados e organizações especializadas. A OpenAI justifica essa limitação pela necessidade de avaliar a confiabilidade da tecnologia e seus usos responsáveis, além de considerar a possibilidade de falsos positivos e falsos negativos. A ferramenta informará se identificou uma marca d'água, mas não revelará o usuário, os prompts utilizados ou as conversas relacionadas ao conteúdo.

Para desenvolvedores que utilizam a API da OpenAI, a marca d'água estará disponível globalmente a partir desta segunda-feira para determinados modelos, mas ficará desativada por padrão. A empresa afirmou que não pretende transformar o recurso em um padrão global neste primeiro momento. A OpenAI planeja revisar sua abordagem conforme a tecnologia, os padrões e as evidências sobre o funcionamento das marcas d'água evoluírem, e também pretende disponibilizar a tecnologia em código aberto para que outras organizações possam desenvolver soluções baseadas nela.

A empresa reforça que a marca d'água tem uma função limitada. Ela não determina quem é o proprietário do texto, se o uso do conteúdo é legal ou quem deve ser responsabilizado por ele. O sistema também não verifica se uma informação é verdadeira, enganosa, prejudicial ou apresentada no contexto correto. Essas limitações precisam ser consideradas na interpretação dos resultados de detecção.