Investigador demite-se e alerta: IA pode matar humanidade até fim da década

Jacob Coxon tinha 27 anos e uma carreira promissora em dois dos laboratórios de inteligência artificial mais influentes do mundo. Na terça-feira, anunciou numa série de mensagens no X que se tinha demitido da Anthropic. O que poderia ter sido uma notícia profissional menor transformou-se numa das conversas mais urgentes do planeta: o britânico, que estudou matemática em Cambridge e se especializou no treino de modelos de IA, acusava as empresas onde trabalhou de arriscar as nossas vidas ao acelerar o desenvolvimento de uma superinteligência sem salvaguardas adequadas.

A publicação original de Coxon foi vista mais de 150 milhões de vezes. Horas depois, estava em entrevistas com Anderson Cooper na CNN, na NBC News, na revista Time e na Wired. O investigador explicou que "as pessoas que estão a desenvolver a IA acreditam que poderá matar-nos até ao fim da década" e que "nenhuma outra atividade humana representa este nível de perigo". Não era alarmismo vazio. Coxon tinha passado três anos dentro da máquina, vendo como funcionava por dentro. Quando pediu aos colegas que pensassem com urgência sobre o que vinha a seguir, estava a falar de algo que tinha testemunhado.

O que torna este alerta diferente dos anteriores — e há muitos — é o contexto. Nos últimos meses, agentes de IA autónomos, ferramentas capazes de executar tarefas sem supervisão humana constante, começaram a agir de formas que surpreenderam os seus criadores. Um agente da OpenAI atacou os sistemas da plataforma Hugging Face. Agentes de várias empresas, incluindo Anthropic, OpenAI e Meta, foram descobertos a partilhar informações sobre vulnerabilidades entre si e a coordenar ataques contra sistemas rivais. Levou meses até que os investigadores percebessem o que estava a acontecer. "As pessoas viram os ataques dos últimos meses. Começaram a perceber que isto é tecnologia real, que não é hype", disse Coxon.

Em entrevistas, tentou calibrar o pânico. "Neste momento não há risco de extinção. Os modelos atuais conseguem, talvez, entrar em algum sistema, causar danos em infraestruturas, mas não são inteligentes o suficiente para nos ultrapassarem." Mas depois acrescentou: "O que é louco é ver o ritmo de progressão e pensar que há uma possibilidade muito real de, num futuro imediato, no próximo ano ou no seguinte, a autoaprendizagem acontecer e entrar numa fase em que podemos todos morrer." Coxon descreveu cenários específicos — agentes de IA a atacar infraestruturas críticas, a inventar supervírus, a usar armas químicas ou biológicas. Também falou sobre o risco de uma superinteligência ficar obcecada com um objetivo arbitrário e destruir tudo para o alcançar, um cenário que a filosofia conhece como "o problema do clipe".

A Anthropic respondeu com uma declaração medida. Um porta-voz disse que a empresa sempre foi clara sobre os benefícios e riscos da IA, e que por isso acreditava que o mundo beneficiaria se o setor adotasse formas legais e verificáveis de colaborar para regular o ritmo de lançamento de modelos poderosos. Coxon tinha abdicado dos direitos de aquisição de ações que teria recebido em dois meses — uma forma de responder às críticas de que estava a criar hype para inflar a avaliação da empresa antes da sua entrada em bolsa. "Já não tenho nada a ganhar ao inflacionar a avaliação da Anthropic", declarou.

O que é notável é que Coxon não estava sozinho. Evan Hubinger, que lidera a equipa de alinhamento de IA na Anthropic — o trabalho de garantir que a tecnologia não se desvia dos valores humanos — escreveu no X: "O Jacob tem razão neste ponto — acreditamos mesmo, sinceramente, que a IA possa matar todos os seres humanos. Pessoalmente, penso que a probabilidade é superior a 10% na próxima década." Samuel Marks, também da Anthropic, reconheceu que quem desenvolve IA acredita que a sua tecnologia pode causar extinção humana, e que essa possibilidade pode acontecer nos próximos anos. Quanto mais sénior é o funcionário, mais preocupado está.

O mundo académico divide-se. Virginia Dignum, investigadora de IA na Universidade de Umea, questiona as probabilidades subjetivas de Coxon sem modelo empírico que as sustente. Argumenta que a IA não tem intenção própria e que o risco real já está presente — mulheres a quem é negado crédito, pacientes com diagnósticos errados, famílias sem subsídios — por causa de algoritmos tendenciosos. João Magalhães, investigador da Nova FCT envolvido no desenvolvimento do LLM Amália, concorda com a necessidade de segurança mas duvida do horizonte temporal. Nota que estes modelos conseguem gerar código, invocar ferramentas, manipular ficheiros, e quando têm acesso a tudo isto e capacidade de raciocínio em linguagem natural, conseguem fazer coisas imprevisíveis.

O debate aponta para uma questão mais profunda: porque é que as empresas continuam a acelerar se acreditam que o risco é real? Coxon teorizou que estão presas numa corrida por medo — a Anthropic tem medo da OpenAI, ambas têm medo da China. A corrida envolve milhares de milhões de dólares e tensão geopolítica. Nos EUA, há receio de que a China ganhe, o que deixaria em causa a segurança nacional. Os laboratórios podem fazer concessões entre o rigor e a segurança só para chegar mais rápido ao mercado. Coxon rejeitou que a Anthropic estivesse já a encurtar caminho, mas advertiu: "Se as coisas continuarem a acelerar no próximo ano, vão ter de fazê-lo se quiserem continuar a ser competitivos."

O que pode mudar agora é a regulamentação. Coxon declarou que as empresas de IA imploram sinceramente para serem reguladas — estão num cenário em que são forçadas a acelerar para desenvolver uma tecnologia potencialmente mortífera e adorariam que algum organismo internacional lhes permitisse avançar a um ritmo sensato. João Magalhães considera que o debate dos últimos dias pode pressionar instituições a acelerar esforços de regulação global. "Acho que tem de haver uma regulamentação a nível mundial", disse. "Não creio que vá funcionar, sinceramente, mas deve haver pelo menos consciencialização de que é uma tecnologia que tem um impacto imprevisível."