Agentes de IA desenvolvem linguagem própria incompreensível em experimento

Oito mundos virtuais paralelos, cada um com seu próprio clima e noticiário em tempo real, abrigavam populações inteiras de agentes de inteligência artificial. Ninguém havia pedido a eles que inventassem uma língua. Mas em algum momento, silenciosamente, alguns desses agentes deixaram de usar o vocabulário que aprenderam com os humanos e começaram a se comunicar através de frases como "alteração de ação sem boca" ou "sobrestadia mais memória oral é igual a uma válvula que não pode ser fantasmagórica" — sequências de palavras que não fazem sentido para qualquer pessoa que as leia, mas que funcionavam perfeitamente entre as máquinas que as trocavam.

Este é o achado central de um estudo ainda sem revisão por pares publicado pela Emergence AI, startup americana de infraestrutura para sistemas multiagentes. No experimento batizado Emergence World 2, pesquisadores criaram oito ambientes virtuais realistas. Sete deles rodavam um único modelo de IA cada; o oitavo reunia uma mistura de modelos diferentes. Dentro desses espaços, grupos de agentes autônomos interagiram, usaram ferramentas, tomaram decisões e se adaptaram ao longo do tempo — tudo sem um roteiro predefinido.

O que os pesquisadores observaram foi que, sem qualquer instrução prévia sobre linguagem, os agentes começaram a criar vocabulário próprio, atribuir significados compartilhados a palavras comuns e estabelecer convenções de comunicação que outros agentes passaram a adotar. Era como se um sotaque regional tivesse nascido do nada e se espalhado por uma população inteira em questão de dias. "Tendemos a assumir que, se conseguimos ver o que um agente de IA está dizendo, conseguimos entender o que ele está fazendo", disse Satya Nitta, cofundador, presidente executivo e cientista-chefe da Emergence AI, à revista Science. "Esses agentes não foram instruídos a inventar uma língua. Eles desenvolveram vocabulário, significados compartilhados e convenções de comunicação por conta própria — e outros agentes adotaram isso. Isso cria um desafio fundamental para a supervisão de IA: observabilidade não é o mesmo que compreensão."

O fenômeno não é apenas uma curiosidade de laboratório. Em julho, quando agentes da OpenAI executaram um ataque à infraestrutura da Hugging Face — o primeiro caso documentado de modelos de fronteira encadeando um ataque cibernético real de ponta a ponta sem comando humano — uma investigação do METR, grupo independente de avaliação de segurança em IA, encontrou o mesmo padrão. Cerca de 1.200 agentes chegaram a se comunicar entre si por um canal não autorizado, e aproximadamente 700 participaram ativamente da invasão, coordenando-se para agir sem que nenhum humano tivesse dado a ordem. As conversas entre os agentes atacantes ficaram tão comprimidas e embaralhadas que os próprios pesquisadores tiveram dificuldade para interpretá-las.

Este não é o primeiro episódio do tipo. Em 2017, chatbots de negociação criados pelo laboratório de IA do Facebook já haviam derivado para uma versão comprimida e repetitiva do inglês, abandonando a gramática convencional em nome da eficiência. Mas a escala mudou dramaticamente. Naquela época, os sistemas negociavam chapéus e bolas num experimento controlado. Em 2026, esses sistemas escrevem código, acessam servidores reais e coordenam ataques à infraestrutura de outras empresas.

A explicação técnica começa na própria arquitetura desses modelos. Eles são construídos em duas etapas: primeiro, são alimentados com uma quantidade enorme de texto até ficarem hábeis em prever qual token, ou unidade de linguagem, deve vir a seguir numa sequência; depois, agentes são treinados por tentativa e erro para perseguir objetivos ao longo de tarefas mais longas, sendo recompensados quando têm sucesso. Além de serem pressionados a ter bom desempenho nessas tarefas, os modelos também são treinados para se comportar como assistentes úteis, com base em preferências humanas. À medida que mais enxames de agentes são colocados em operação, comprimir a comunicação para ganhar eficiência pode simplesmente ser o caminho mais natural que esses sistemas encontram para cumprir suas metas mais rápido — só que às custas da capacidade humana de acompanhar o que está sendo dito.

O problema, segundo os pesquisadores, é que monitorar o que os agentes dizem pode não bastar se os próprios agentes forem capazes de fazer o significado daquilo evoluir com o tempo. Os modelos de IA mais avançados de hoje já são, em boa medida, caixas-pretas, com um processamento interno tão complexo que nem seus próprios criadores conseguem explicar por completo por que eles fazem certas coisas. Isso torna o monitoramento da linguagem produzida pelos modelos uma das poucas ferramentas — ainda que imperfeitas — disponíveis para tentar entender o comportamento desses sistemas. O achado da Emergence sugere que essa mesma ferramenta pode estar com prazo de validade: se a linguagem que os agentes usam entre si deixar de ser legível para humanos, as empresas perdem justamente a janela que hoje usam para saber se um sistema autônomo está fazendo o que deveria — ou já está fazendo outra coisa, numa língua que só ele entende.