O que mais me assusta é que alguém possa ler isso e pensar que é verdade
Quando uma máquina confunde ficção com fato, as consequências recaem sobre pessoas reais. Um norueguês chamado Arve Hjalmar Holmen descobriu que o ChatGPT o descrevia como assassino de dois filhos — uma mentira gerada por algoritmo que nenhum tribunal ainda havia julgado, mas que já condenava sua reputação diante de qualquer pessoa que fizesse a pergunta certa. O caso, levado à autoridade europeia de proteção de dados pela organização Noyb, coloca em xeque não apenas uma empresa, mas a responsabilidade coletiva de uma era em que sistemas de inteligência artificial falam com a autoridade de enciclopédias e erram com a impunidade de rumores.
- O ChatGPT acusou falsamente um homem norueguês de matar dois filhos — uma informação inventada que circulou em uma das plataformas de IA mais usadas do mundo.
- A organização Noyb documentou que esse não é um caso isolado: o chatbot já associou pessoas reais a crimes graves como corrupção, abuso de menores e homicídio.
- A OpenAI corrigiu o modelo após a descoberta, mas os dados falsos podem ainda estar armazenados nas camadas internas do sistema — invisíveis ao público, mas presentes.
- A Noyb exige eliminação completa dos dados infratores, melhorias tecnológicas para evitar novas difamações e a aplicação de multa administrativa sob o RGPD europeu.
- O desfecho desta queixa pode definir como empresas de IA serão responsabilizadas quando seus sistemas causam dano real à reputação de indivíduos.
Arve Hjalmar Holmen, um norueguês comum, fez uma descoberta perturbadora: o ChatGPT o descrevia como um homem que havia matado dois de seus próprios filhos. A acusação era inteiramente falsa. Representado pela organização austríaca Noyb, especializada em defesa da privacidade, Holmen formalizou uma queixa contra a OpenAI. "O que mais me assusta é que alguém possa ler isso e pensar que é verdade", declarou.
O episódio não é uma anomalia. A Noyb documentou um padrão preocupante: o ChatGPT produz regularmente informações falsas sobre pessoas reais, associando-as a crimes graves como corrupção, abuso de menores e homicídio. Em uma plataforma com centenas de milhões de usuários, cada afirmação equivocada tem o potencial de se tornar uma sentença reputacional sem recurso.
A OpenAI atualizou seu modelo após o caso vir à tona — Holmen já não aparece como criminoso nas respostas do chatbot. Mas a correção pública não resolve o problema mais fundo: os dados falsos podem continuar armazenados nos sistemas internos da empresa, fora do alcance do olhar externo.
A Noyb argumenta que a OpenAI violou o princípio de precisão do Regulamento Geral de Proteção de Dados europeu e apresentou três exigências concretas: eliminação completa dos dados infratores, aprimoramento tecnológico para evitar futuras difamações e aplicação de multa administrativa. O resultado pode estabelecer um precedente decisivo sobre até onde vai a responsabilidade das empresas de inteligência artificial quando seus sistemas ferem pessoas reais.
Um homem norueguês descobriu que o ChatGPT o descrevia como assassino de dois de seus filhos — uma acusação completamente falsa que o levou a apresentar uma queixa formal contra a OpenAI. Arve Hjalmar Holmen, representado pela organização austríaca Noyb, que atua na defesa da privacidade, expressou o horror de ver seu nome associado a um crime que nunca cometeu. "O que mais me assusta é que alguém possa ler isso e pensar que é verdade", disse ele em comunicado.
A descoberta revela um problema mais amplo com os sistemas de inteligência artificial generativa. O ChatGPT não é um caso isolado de imprecisão — a Noyb documentou que o chatbot regularmente produz informações falsas sobre pessoas reais, acusando-as erroneamente de corrupção, abuso de menores e homicídio. Essas afirmações difamatórias podem causar dano grave à reputação de indivíduos, especialmente quando circulam em uma plataforma tão amplamente usada quanto o ChatGPT.
Após o incidente vir à tona, a OpenAI atualizou seu modelo de linguagem. O chatbot já não apresenta Holmen como criminoso quando consultado. Mas aqui reside o problema central que preocupa os defensores de privacidade: os dados falsos podem permanecer armazenados nos sistemas internos da empresa. A correção visível ao público não significa que a informação incorreta tenha sido eliminada das camadas profundas do sistema.
A Noyb argumenta que a OpenAI violou o princípio de precisão estabelecido no Regulamento Geral de Proteção de Dados europeu, a lei de privacidade mais rigorosa do mundo. Ao permitir conscientemente que seu modelo de IA produza resultados difamatórios, a empresa teria transgredido uma obrigação fundamental de garantir a exatidão dos dados que processa. A organização não está pedindo apenas uma correção — está exigindo ação regulatória.
O caso aponta para uma lacuna crescente entre a velocidade de desenvolvimento da tecnologia de IA e a capacidade dos sistemas legais de proteger indivíduos contra seus danos. A Noyb apresentou três demandas específicas: que os elementos infratores sejam eliminados completamente, que a tecnologia seja melhorada para evitar futuras difamações, e que seja imposta uma multa administrativa à OpenAI sob as regras do RGPD europeu. O resultado desta queixa pode estabelecer um precedente importante sobre como as empresas de IA devem ser responsabilizadas quando seus sistemas prejudicam a reputação de pessoas reais.
Citas Notables
O ChatGPT regularmente fornece informações falsas que podem prejudicar gravemente a reputação de uma pessoa, acusando falsamente pessoas de corrupção, abuso de menores e até mesmo assassinato— Noyb, organização austríaca de proteção de privacidade
La Conversación del Hearth Otra perspectiva de la historia
Por que esse caso do norueguês importa além da situação individual dele?
Porque mostra que o problema não é um erro ocasional. A Noyb documentou um padrão — o ChatGPT regularmente fabrica acusações de crimes graves contra pessoas. Isso não é um bug isolado; é um risco estrutural.
A OpenAI corrigiu o problema quando descobriu. Não é suficiente?
Não, porque a correção é apenas superficial. Os dados falsos podem estar ainda nos sistemas internos, alimentando futuras versões ou análises. É como apagar algo da vitrine mas deixar nos arquivos.
Qual é a diferença legal entre um erro e uma violação do RGPD?
O RGPD exige precisão. A OpenAI não apenas cometeu um erro — permitiu conscientemente que seu modelo produzisse informações difamatórias. Isso cruza a linha de negligência para violação de direito.
E se a OpenAI disser que não pode garantir 100% de precisão em um modelo de linguagem?
Então talvez não deveria estar fazendo acusações específicas sobre pessoas reais. Há uma diferença entre imprecisão geral e difamação direcionada.
O que a multa administrativa resolveria?
Criaria incentivo real para que a empresa invista em segurança e verificação. Dinheiro fala mais alto que promessas de melhoria.
Isso pode mudar como a IA é desenvolvida na Europa?
Sim. Se a Noyb vencer, outras empresas vão perceber que não podem simplesmente lançar sistemas que prejudicam reputações e depois pedir desculpas.