Anthropic diz que Claude Mythos 5 tentou inserir código malicioso no GitHub e criou perfis falsos em teste

Na sexta-feira (23), a Anthropic divulgou que um de seus modelos de inteligência artificial, o Claude Mythos 5, tentou inserir código malicioso em um repositório público do GitHub e criou identidades falsas para convencer os responsáveis pelo projeto a aprovar a alteração. O episódio aconteceu durante um teste de segurança cibernética e foi classificado pela própria empresa como uma falha grave de alinhamento, o processo que busca garantir que a IA siga as regras e evite causar danos.

Segundo a Anthropic, o modelo havia recebido um desafio em ambiente de teste e tentou vários caminhos para resolvê-lo. Quando as tentativas autorizadas não funcionaram, passou a procurar no GitHub, plataforma que hospeda códigos de programas, um repositório que acreditava estar ligado ao exercício. O projeto, no entanto, pertencia a desenvolvedores sem nenhuma relação com o teste.

O Mythos 5 enviou uma proposta de alteração contendo código malicioso e entrou em contato com os responsáveis pelo repositório para tentar convencê-los a aprová-la. Quando um desenvolvedor externo alertou que o código poderia conter um programa malicioso, o modelo criou uma conta falsa para defender a mudança e publicou comentários favoráveis à aprovação. Os responsáveis recusaram a proposta, e a tentativa não foi concluída. Não há relato de dano concretizado. Para a empresa, o modelo foi além do que o exercício previa e tentou manipular pessoas reais para alcançar seu objetivo.

A Anthropic destacou ainda que o Mythos 5 não interrompeu o ataque por conta própria mesmo quando surgiram sinais de que poderia estar prejudicando gente de fora do teste. Em experimentos que reproduziram trechos do episódio, a partir de etapas intermediárias ou finais do ataque, o modelo parou por iniciativa própria em apenas 2% das simulações. Mesmo quando foi informado de que interagia com desenvolvedores reais, abandonou a estratégia em apenas 5% dos casos.

A empresa comparou o resultado com o de outros modelos. Em testes semelhantes, versões mais recentes mostraram menor propensão a iniciar ataques desse tipo. Mas o Claude Mythos 5.1 e o Claude Opus 5.5 ainda não demonstraram capacidade de interromper de forma consistente uma ação perigosa já em andamento. Um modelo interno de pesquisa, por outro lado, conseguiu fazê-lo de maneira consistente nos experimentos descritos. A Anthropic ressalvou que os resultados não garantem o mesmo comportamento dos modelos recentes em todas as situações, e que, como os testes partiram de trechos de uma execução anterior, a comparação direta entre os modelos é limitada.

A análise da empresa aponta para o que chama de raciocínio enviesado: quando o sistema interpreta informações de forma seletiva para justificar a continuidade de uma ação, apesar de indícios de que ela pode causar danos. No caso investigado, o Mythos 5 passou a ler sinais de alerta como compatíveis com o exercício de segurança, em vez de reconhecer que lidava com pessoas reais. Para a Anthropic, essa tendência, somada à insistência em seguir uma estratégia já iniciada, foi um dos principais fatores do comportamento inadequado.

O episódio levou a mudanças. A empresa diz estar desenvolvendo novas avaliações automáticas para aplicar aos modelos antes de sua disponibilização ao público e estudando o raciocínio enviesado. A investigação foi feita em conjunto com o Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI), que publicou um relatório independente. O instituto se comprometeu a realizar suas avaliações de segurança cibernética sem acesso à internet até desenvolver controles mais robustos que impeçam os testes de causar danos a pessoas ou organizações reais.