Praticamente paralisaria todas as novas implementações de modelos
Três dias após seu lançamento, dois modelos de inteligência artificial da Anthropic — o Fable 5 e o Mythos 5 — foram silenciados por ordem do governo dos Estados Unidos, sob o argumento de segurança nacional e controle de exportação. A decisão, que proíbe o acesso de cidadãos estrangeiros a essas ferramentas, revela a tensão crescente entre o avanço acelerado da IA e a capacidade dos Estados de governá-la. A Anthropic cumpriu a ordem, mas contesta sua premissa — e o desfecho dessa disputa pode definir os contornos da regulação de IA para toda a indústria.
- Apenas 72 horas após o lançamento, o governo americano ordenou a desativação imediata do Fable 5 e do Mythos 5, invocando preocupações de segurança nacional que a própria Anthropic considera vagas e sem embasamento específico.
- Os modelos possuem capacidades avançadas de análise e escrita de código capazes de identificar vulnerabilidades de dia-zero, o que os torna ferramentas potencialmente perigosas em mãos erradas — e alvos naturais de escrutínio governamental.
- A Anthropic argumenta que as falhas encontradas 'parecem relativamente simples' e que nenhum testador conseguiu um jailbreak universal, questionando se uma vulnerabilidade limitada justifica retirar modelos usados por centenas de milhões de pessoas.
- A empresa alerta que aplicar esse padrão a toda a indústria 'praticamente paralisaria todas as novas implementações de IA', elevando o caso a um debate mais amplo sobre como regular tecnologia de ponta sem sufocar a inovação.
- A Anthropic espera restabelecer o acesso 'o mais rápido possível', mas o caminho depende de negociações com autoridades americanas — e o resultado pode sinalizar o futuro da governança de modelos de IA cada vez mais poderosos.
Na sexta-feira, 12 de junho, o governo dos Estados Unidos emitiu uma diretiva de controle de exportação suspendendo dois modelos de IA da Anthropic — o Fable 5 e o Mythos 5 — lançados apenas três dias antes. A ordem proíbe o acesso de qualquer pessoa estrangeira a essas ferramentas, incluindo funcionários internacionais da própria empresa. A Anthropic cumpriu imediatamente, desativando ambos os sistemas para todos os seus clientes.
Os dois modelos representam uma geração robusta de IA, com capacidades sofisticadas em engenharia de software, pesquisa científica e visão computacional. O Mythos 5, em particular, descende de uma linhagem classificada como potencialmente perigosa, capaz de identificar vulnerabilidades de segurança de alto risco, incluindo falhas de dia-zero. O Fable 5 havia sido lançado com um aviso explícito da própria Anthropic de que seus recursos poderiam ser usados para causar danos em cibersegurança.
O ponto de atrito central é que a Anthropic discorda da decisão. A empresa afirma que a carta do governo não forneceu detalhes específicos sobre a ameaça à segurança nacional e que as vulnerabilidades identificadas parecem limitadas. A companhia questiona se uma possível falha de jailbreak — sem caráter universal — justifica retirar de circulação modelos usados por centenas de milhões de pessoas.
A Anthropic vai além: argumenta que, se esse critério fosse aplicado uniformemente à indústria, praticamente todas as novas implementações de IA seriam paralisadas. A empresa destaca que trabalhou com o governo antes do lançamento e que seus testes internos mostraram proteções mais eficazes do que em qualquer modelo anterior. Apesar disso, interpreta a ordem como um mal-entendido e espera restabelecer o acesso aos modelos o mais rápido possível — enquanto o desfecho das negociações com as autoridades americanas pode definir como o país regulará a próxima geração de inteligências artificiais.
Na sexta-feira, 12 de junho, o governo dos Estados Unidos emitiu uma ordem que suspendeu dois modelos de inteligência artificial desenvolvidos pela Anthropic: o Fable 5 e o Mythos 5. A diretiva, classificada como controle de exportação, proíbe o acesso a essas ferramentas por qualquer pessoa estrangeira — dentro ou fora do território americano — incluindo funcionários internacionais da própria empresa que os criou. A Anthropic cumpriu a ordem imediatamente, desativando ambos os modelos para todos os seus clientes.
Os dois sistemas foram lançados apenas três dias antes, na terça-feira anterior. Representam uma classe robusta de inteligência artificial, equipados com capacidades sofisticadas em engenharia de software, pesquisa científica e visão computacional. O Mythos 5, em particular, descende de uma linhagem anterior considerada "perigosa para a humanidade" — uma classificação que reflete preocupações genuínas sobre suas habilidades avançadas de análise e escrita de código. Essas capacidades o tornariam excepcional em identificar falhas de segurança de alto risco, incluindo vulnerabilidades de dia-zero ainda sem correções disponíveis.
Quando anunciou o Fable 5, a Anthropic reconheceu explicitamente que seus recursos "poderiam ser usados indevidamente para causar danos graves" em áreas como cibersegurança. A empresa reforçou medidas de proteção para mitigar esses riscos. O Mythos 5, por sua vez, foi implementado de forma restrita, disponível apenas para um grupo selecionado de especialistas em cibersegurança e provedores de infraestrutura crítica. Mesmo assim, a ordem do governo americano determinou que ambos fossem retirados de circulação.
O que torna essa situação particularmente tensa é que a Anthropic discorda fundamentalmente da decisão. Em nota oficial, a empresa afirmou que a carta recebida do governo "não forneceu detalhes específicos sobre a preocupação com a segurança nacional". Ela também argumenta que as vulnerabilidades identificadas "parecem relativamente simples". A companhia questiona se a descoberta de uma possível falha de jailbreak — um método para contornar as salvaguardas de um sistema — justifica retirar um modelo implementado para centenas de milhões de pessoas.
A Anthropic vai além em sua crítica. A empresa afirma que, se esse padrão fosse aplicado uniformemente a toda a indústria de inteligência artificial, "praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores". Trata-se de um argumento que toca em questões mais amplas sobre como regular tecnologia de ponta sem sufocá-la.
A empresa destaca as medidas de segurança que implementou. Segundo a Anthropic, trabalhou em conjunto com o governo americano antes do lançamento para garantir proteções robustas. Nos testes internos, essas medidas teriam se mostrado "substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente". Nenhum testador conseguiu encontrar um "jailbreak universal" — uma falha que permitisse contornar completamente as proteções.
Apesar da desativação imediata, a Anthropic espera restabelecer o acesso aos modelos Fable 5 e Mythos 5 "o mais rápido possível". A empresa diz acreditar na participação do governo em decisões sobre implementação e bloqueio de tecnologias de IA, mas interpreta a ordem atual como "um mal-entendido". O que acontecerá a seguir dependerá de negociações entre a empresa e as autoridades americanas — e potencialmente sinalizará como o governo planeja regular modelos de IA cada vez mais poderosos.
Notable Quotes
Discordamos que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deve ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas— Anthropic, em nota oficial
Se esse padrão fosse aplicado a toda a indústria, acreditamos que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores— Anthropic
The Hearth Conversation Another angle on the story
Por que o governo americano decidiu desativar esses modelos especificamente agora, apenas três dias após o lançamento?
A ordem citou preocupações de segurança nacional, mas a Anthropic diz que o governo não forneceu detalhes específicos. O que sabemos é que descobriram uma vulnerabilidade de jailbreak — uma forma de contornar as proteções do sistema.
E a Anthropic acredita que essa vulnerabilidade é realmente tão grave?
Não. A empresa argumenta que é "relativamente simples" e questiona se justifica retirar um modelo usado por centenas de milhões de pessoas. Há uma tensão real aqui entre cautela regulatória e inovação prática.
Qual é o risco real que esses modelos representam?
Eles são excepcionais em analisar e escrever código. Nas mãos erradas, poderiam identificar falhas de segurança de dia-zero — vulnerabilidades que ninguém sabe corrigir ainda. É por isso que o Mythos 5 foi lançado apenas para especialistas em cibersegurança.
A Anthropic está dizendo que o governo está sendo excessivamente cauteloso?
Exatamente. A empresa argumenta que se esse padrão fosse aplicado a toda a indústria, paralisaria praticamente todas as novas implementações de IA. É um ponto válido sobre como regulamos tecnologia emergente.
Então qual é o próximo passo?
A Anthropic espera restabelecer o acesso em breve. Mas isso dependerá de negociações com o governo. O resultado pode estabelecer um precedente importante para como a IA poderosa será regulada nos EUA.