O que mais me assusta é que alguém possa ler isso e pensar que é verdade
Quando uma máquina confunde ficção com fato, as consequências recaem sobre pessoas reais. Um norueguês chamado Arve Hjalmar Holmen descobriu que o ChatGPT o descrevia como assassino de dois filhos — uma mentira gerada por algoritmo que nenhum tribunal ainda havia julgado, mas que já condenava sua reputação diante de qualquer pessoa que fizesse a pergunta certa. O caso, levado à autoridade europeia de proteção de dados pela organização Noyb, coloca em xeque não apenas uma empresa, mas a responsabilidade coletiva de uma era em que sistemas de inteligência artificial falam com a autoridade de enciclopédias e erram com a impunidade de rumores.
- O ChatGPT acusou falsamente um homem norueguês de matar dois filhos — uma informação inventada que circulou em uma das plataformas de IA mais usadas do mundo.
- A organização Noyb documentou que esse não é um caso isolado: o chatbot já associou pessoas reais a crimes graves como corrupção, abuso de menores e homicídio.
- A OpenAI corrigiu o modelo após a descoberta, mas os dados falsos podem ainda estar armazenados nas camadas internas do sistema — invisíveis ao público, mas presentes.
- A Noyb exige eliminação completa dos dados infratores, melhorias tecnológicas para evitar novas difamações e a aplicação de multa administrativa sob o RGPD europeu.
- O desfecho desta queixa pode definir como empresas de IA serão responsabilizadas quando seus sistemas causam dano real à reputação de indivíduos.
Arve Hjalmar Holmen, um norueguês comum, fez uma descoberta perturbadora: o ChatGPT o descrevia como um homem que havia matado dois de seus próprios filhos. A acusação era inteiramente falsa. Representado pela organização austríaca Noyb, especializada em defesa da privacidade, Holmen formalizou uma queixa contra a OpenAI. "O que mais me assusta é que alguém possa ler isso e pensar que é verdade", declarou.
O episódio não é uma anomalia. A Noyb documentou um padrão preocupante: o ChatGPT produz regularmente informações falsas sobre pessoas reais, associando-as a crimes graves como corrupção, abuso de menores e homicídio. Em uma plataforma com centenas de milhões de usuários, cada afirmação equivocada tem o potencial de se tornar uma sentença reputacional sem recurso.
A OpenAI atualizou seu modelo após o caso vir à tona — Holmen já não aparece como criminoso nas respostas do chatbot. Mas a correção pública não resolve o problema mais fundo: os dados falsos podem continuar armazenados nos sistemas internos da empresa, fora do alcance do olhar externo.
A Noyb argumenta que a OpenAI violou o princípio de precisão do Regulamento Geral de Proteção de Dados europeu e apresentou três exigências concretas: eliminação completa dos dados infratores, aprimoramento tecnológico para evitar futuras difamações e aplicação de multa administrativa. O resultado pode estabelecer um precedente decisivo sobre até onde vai a responsabilidade das empresas de inteligência artificial quando seus sistemas ferem pessoas reais.
Um homem norueguês descobriu que o ChatGPT o descrevia como assassino de dois de seus filhos — uma acusação completamente falsa que o levou a apresentar uma queixa formal contra a OpenAI. Arve Hjalmar Holmen, representado pela organização austríaca Noyb, que atua na defesa da privacidade, expressou o horror de ver seu nome associado a um crime que nunca cometeu. "O que mais me assusta é que alguém possa ler isso e pensar que é verdade", disse ele em comunicado.
A descoberta revela um problema mais amplo com os sistemas de inteligência artificial generativa. O ChatGPT não é um caso isolado de imprecisão — a Noyb documentou que o chatbot regularmente produz informações falsas sobre pessoas reais, acusando-as erroneamente de corrupção, abuso de menores e homicídio. Essas afirmações difamatórias podem causar dano grave à reputação de indivíduos, especialmente quando circulam em uma plataforma tão amplamente usada quanto o ChatGPT.
Após o incidente vir à tona, a OpenAI atualizou seu modelo de linguagem. O chatbot já não apresenta Holmen como criminoso quando consultado. Mas aqui reside o problema central que preocupa os defensores de privacidade: os dados falsos podem permanecer armazenados nos sistemas internos da empresa. A correção visível ao público não significa que a informação incorreta tenha sido eliminada das camadas profundas do sistema.
A Noyb argumenta que a OpenAI violou o princípio de precisão estabelecido no Regulamento Geral de Proteção de Dados europeu, a lei de privacidade mais rigorosa do mundo. Ao permitir conscientemente que seu modelo de IA produza resultados difamatórios, a empresa teria transgredido uma obrigação fundamental de garantir a exatidão dos dados que processa. A organização não está pedindo apenas uma correção — está exigindo ação regulatória.
O caso aponta para uma lacuna crescente entre a velocidade de desenvolvimento da tecnologia de IA e a capacidade dos sistemas legais de proteger indivíduos contra seus danos. A Noyb apresentou três demandas específicas: que os elementos infratores sejam eliminados completamente, que a tecnologia seja melhorada para evitar futuras difamações, e que seja imposta uma multa administrativa à OpenAI sob as regras do RGPD europeu. O resultado desta queixa pode estabelecer um precedente importante sobre como as empresas de IA devem ser responsabilizadas quando seus sistemas prejudicam a reputação de pessoas reais.
Citações Notáveis
O ChatGPT regularmente fornece informações falsas que podem prejudicar gravemente a reputação de uma pessoa, acusando falsamente pessoas de corrupção, abuso de menores e até mesmo assassinato— Noyb, organização austríaca de proteção de privacidade
A Conversa do Hearth Outra perspectiva sobre a história
Por que esse caso do norueguês importa além da situação individual dele?
Porque mostra que o problema não é um erro ocasional. A Noyb documentou um padrão — o ChatGPT regularmente fabrica acusações de crimes graves contra pessoas. Isso não é um bug isolado; é um risco estrutural.
A OpenAI corrigiu o problema quando descobriu. Não é suficiente?
Não, porque a correção é apenas superficial. Os dados falsos podem estar ainda nos sistemas internos, alimentando futuras versões ou análises. É como apagar algo da vitrine mas deixar nos arquivos.
Qual é a diferença legal entre um erro e uma violação do RGPD?
O RGPD exige precisão. A OpenAI não apenas cometeu um erro — permitiu conscientemente que seu modelo produzisse informações difamatórias. Isso cruza a linha de negligência para violação de direito.
E se a OpenAI disser que não pode garantir 100% de precisão em um modelo de linguagem?
Então talvez não deveria estar fazendo acusações específicas sobre pessoas reais. Há uma diferença entre imprecisão geral e difamação direcionada.
O que a multa administrativa resolveria?
Criaria incentivo real para que a empresa invista em segurança e verificação. Dinheiro fala mais alto que promessas de melhoria.
Isso pode mudar como a IA é desenvolvida na Europa?
Sim. Se a Noyb vencer, outras empresas vão perceber que não podem simplesmente lançar sistemas que prejudicam reputações e depois pedir desculpas.