No início de outubro, a OpenAI encerrou a conta de um usuário brasileiro e entregou à Polícia Federal um dossiê de conversas que revelavam o planejamento detalhado de um atentado contra o presidente Lula — escolha de arma, posição de tiro, rotas de fuga. O episódio coloca em evidência uma tensão que cresce silenciosamente: as ferramentas de inteligência artificial, concebidas para ampliar o conhecimento humano, tornam-se também espelhos onde intenções violentas ganham forma e, às vezes, são interceptadas antes de se tornarem atos.
Homem planejou assassinar Lula em conversas com ChatGPT; OpenAI alerta PF
Potencial risco à vida do presidente Lula e possíveis vítimas civis mencionadas nas conversas do suspeito.
Planejamento detalhado em conversas privadas com uma máquina
Mark
Como a OpenAI conseguiu identificar essas conversas? Elas não deveriam ser privadas?
Mimi
A empresa tem sistemas de monitoramento que detectam padrões de risco — ameaças diretas, planejamento de violência, aquele tipo de coisa. Quando identificam algo que parece um risco concreto e iminente, eles intervêm.
Luke
Mas a gente não sabe exatamente como esses sistemas funcionam ou quão precisos são. Pode haver falsos positivos, ou conversas que parecem perigosas mas não são.
Mark
E por que a OpenAI notificou o TSE especificamente?
Mimi
Porque estamos em período eleitoral. O presidente é candidato à reeleição. A empresa tem um protocolo de conformidade eleitoral — eles querem estar alinhados com as autoridades eleitorais em casos que envolvem segurança política.
Luke
Faz sentido, mas também levanta uma questão: quantas outras conversas foram reportadas? Só essas duas? Essa é uma amostra representativa ou há muito mais?
Mark
O homem realmente planejava fazer isso, ou era só conversa?
Mimi
Ele não tinha arma no momento, o que é importante. Mas tinha detalhes muito específicos — a localização, o tipo de fuzil, rotas de fuga, tudo mapeado. Isso não é especulação vaga.
Luke
Verdade, mas também não sabemos se ele tinha recursos, acesso, ou se era alguém com histórico de violência real. O risco é real, mas qual é o tamanho dele? Isso não fica claro.
Mark
E as respostas do ChatGPT? O robô estava ajudando ele a planejar?
Mimi
Os documentos não mostram as respostas. A gente só vê o que o homem perguntava e dizia. Então não sabemos se o ChatGPT recusou, alertou, ou se foi mais neutro.
Luke
Isso é um buraco importante na história. Se o ChatGPT estava recusando essas perguntas, isso mostra que os sistemas de segurança funcionaram. Se estava respondendo normalmente, é um problema diferente. A gente não sabe.
O Pulso
- Um homem observou Lula a 400 metros de sua casa e usou o ChatGPT para calcular consequências legais, posições de tiro e rotas de fuga — com detalhes sobre um fuzil AR-15 com luneta.
- As conversas oscilavam entre negações e ameaças explícitas, incluindo símbolos nazistas, receitas de explosivos e menções a ataques contra centros médicos e pessoas próximas.
- A OpenAI encerrou a conta, compilou um dossiê e notificou tanto a Polícia Federal quanto o Tribunal Superior Eleitoral, acionando seus protocolos de segurança e conformidade eleitoral.
- O homem não possuía arma de fogo no momento das conversas, situando o caso no estágio de intenção — mas a gravidade do planejamento levou o diretor-geral da PF a encaminhar o caso ao ministro da Justiça.
- A decisão sobre abertura de inquérito por ameaça ainda aguarda resposta ministerial, enquanto o episódio expõe a responsabilidade crescente das plataformas de IA na detecção de violência em gestação.
No início de outubro, a OpenAI encerrou a conta de um usuário brasileiro e entregou à Polícia Federal um dossiê de conversas que revelavam o planejamento detalhado de um atentado contra o presidente Lula — escolha de arma, posição de tiro, rotas de fuga. O episódio coloca em evidência uma tensão que cresce silenciosamente: as ferramentas de inteligência artificial, concebidas para ampliar o conhecimento humano, tornam-se também espelhos onde intenções violentas ganham forma e, às vezes, são interceptadas antes de se tornarem atos.
A OpenAI encerrou a conta de um usuário no início de outubro e entregou à Polícia Federal um dossiê de conversas que revelavam planejamento detalhado para um atentado contra o presidente Lula. O homem havia observado Lula em um palanque a cerca de 400 metros de sua residência e questionou o ChatGPT sobre as consequências legais de matar o presidente. Enviou fotografias de uma torre que pretendia usar como posição de tiro e descreveu com precisão seu armamento preferido: um fuzil AR-15 com luneta. Nas conversas, discutiu rotas de fuga e especulou sobre o que aconteceria se disparasse na cabeça do presidente.
O padrão revelado nos registros é perturbador e contraditório. O homem compartilhou imagens de armas brancas, expressou desejo de agredir parentes, divulgou símbolos nazistas e, em um momento, afirmou que cometeria um massacre se tivesse recursos. As ameaças alternavam com negações ao chatbot, seguidas por retomadas ainda mais explícitas — incluindo uma receita para fabricação de explosivos e menções a ataques contra centros médicos. Os documentos registram apenas as declarações do usuário, não as respostas da plataforma.
A OpenAI esclareceu que o homem não possuía arma de fogo no momento das conversas, situando o risco no plano da intenção. A empresa notificou também o Tribunal Superior Eleitoral, seguindo seu protocolo de conformidade eleitoral. O diretor-geral da Polícia Federal encaminhou o caso ao ministro da Justiça para decisão sobre a abertura de inquérito por ameaça — crime que prevê detenção de um a seis meses ou multa. O episódio evidencia uma tensão crescente: plataformas de inteligência artificial estão sendo usadas como espaço de elaboração de violência, e as empresas que as operam enfrentam a responsabilidade de detectar esses usos antes que se convertam em atos.
A OpenAI encerrou a conta de um usuário no início de outubro e entregou à Polícia Federal um dossiê de conversas que revelavam planejamento detalhado para um atentado contra o presidente Luiz Inácio Lula da Silva. Documentos obtidos pela Folha de S.Paulo mostram que o homem não apenas expressou a intenção de assassinar o presidente, mas forneceu ao ChatGPT informações específicas sobre como executaria o crime — incluindo a escolha de uma arma, a localização do ataque e rotas de fuga.
O caso mais grave entre pelo menos dois incidentes similares envolvia um homem que havia observado Lula em um palanque a aproximadamente 400 metros de sua residência. Ele questionou o assistente de inteligência artificial sobre as consequências legais de matar o presidente, pedindo informações sobre penas de prisão. Enviou fotografias de uma torre que pretendia usar como posição de tiro e descreveu seu armamento preferido com precisão: um fuzil AR-15 equipado com luneta. Nas conversas, mencionou o uso de binóculos, discutiu rotas de fuga e especulou sobre o que aconteceria se disparasse na cabeça de Lula.
O padrão de comportamento revelado nos registros é perturbador e contraditório. O homem compartilhou imagens de armas brancas, expressou desejo de agredir pessoas próximas a ele, incluindo parentes, e divulgou símbolos nazistas. Em um momento, afirmou que cometeria um massacre se tivesse recursos financeiros. Mas as conversas também incluem negações — ele negou ao chatbot que causaria ferimentos a alguém — seguidas por retomadas de ameaças explícitas, como o envio de uma receita para fabricação de explosivos e menções a ataques contra centros médicos. Os documentos não revelam as respostas do ChatGPT, apenas as perguntas e declarações do usuário, deixando em aberto como a plataforma respondeu a essas solicitações.
O alerta da OpenAI à Polícia Federal deixa claro um ponto crucial: o homem não possuía uma arma de fogo no momento das conversas. Isso não diminui a gravidade do caso, mas situa o risco em um estágio de planejamento e intenção, não de ação imediata. A empresa, em comunicado ao TecMundo, explicou sua abordagem: "Nossos sistemas são projetados para ajudar a manter as pessoas seguras, tanto em nossas plataformas quanto no mundo real. Quando conversas indicam um risco iminente e concreto de que outras pessoas possam sofrer algum dano, notificamos as autoridades." A OpenAI também notificou o Tribunal Superior Eleitoral, alinhando-se ao seu protocolo de conformidade eleitoral.
O diretor-geral da Polícia Federal, Andrei Rodrigues, encaminhou o caso ao ministro da Justiça, Wellington César Lima e Silva, para que seja decidido sobre a abertura de um inquérito. O crime em questão seria o de ameaça, que prevê pena de detenção de um a seis meses ou multa. A investigação agora depende de uma decisão ministerial sobre como proceder. O caso expõe uma tensão crescente: plataformas de inteligência artificial estão sendo usadas não apenas para buscar informações, mas como espaço de elaboração de violência, e as empresas que as operam enfrentam a responsabilidade de detectar e reportar esses usos antes que se transformem em atos.
Citações Notáveis
Nossos sistemas são projetados para ajudar a manter as pessoas seguras, tanto em nossas plataformas quanto no mundo real. Quando conversas indicam um risco iminente e concreto de que outras pessoas possam sofrer algum dano, notificamos as autoridades.— Porta-voz da OpenAI ao TecMundo
Quer a matéria completa?
Leia o original em Estadão ↗
Technology