Temores sobre IA ameaçar humanidade crescem, mas especialistas divergem sobre riscos reais

Os alertas sobre inteligência artificial tornaram-se mais altos e mais urgentes nas últimas semanas. Pesquisadores que trabalham — ou trabalharam — dentro da própria indústria começaram a fazer declarações públicas sobre o risco existencial que a tecnologia pode representar. Um deles, Evan Hubinger, cientista da Anthropic, afirmou que existe mais de 10% de chance de a IA "matar todos os humanos" na próxima década. Essas falas intensificaram a pressão por ação regulatória coordenada, especialmente nos Estados Unidos, onde gigantes como OpenAI e Anthropic têm pressionado congressistas a criar regras para o setor. Ao mesmo tempo, críticos questionam se esse movimento por regulamentação não serve, na verdade, para consolidar a vantagem das empresas líderes de mercado sobre concorrentes atuais e futuros.

O temor de que máquinas inteligentes possam ameaçar a humanidade não é novo. Alan Turing, o cientista britânico, escreveu nos anos 1950 que se máquinas inteligentes se tornassem possíveis, poderiam assumir o controle. Mas o que mudou agora é a velocidade. Nos últimos anos, as principais empresas de IA entraram em uma corrida para desenvolver sistemas cada vez mais avançados, tanto em busca de lucro quanto com o objetivo de criar o que chamam de superinteligência — uma tecnologia ainda teórica, mais inteligente que os seres humanos. Hubinger trabalha com alinhamento de IA, uma área voltada a incorporar princípios e valores éticos humanos aos sistemas. Embora tenha dito que o risco representado pelos sistemas atuais é "baixo", suas declarações ganharam peso quando Jacob Coxon, outro pesquisador, deixou a Anthropic por discordâncias sobre o rumo do desenvolvimento. Coxon alertou que as pessoas responsáveis pela tecnologia estavam perdendo o controle sobre ela e disse à BBC que ele e outros funcionários estavam "genuinamente assustados" com a velocidade dos avanços.

Os cenários de risco descritos pelos pesquisadores preocupados são inquietantes. Dario Amodei, diretor da Anthropic, escreveu em setembro que a tecnologia avançou "drasticamente mais rápido" do que o esperado, inclusive na "capacidade de criar a próxima geração de IA". A preocupação central é que, depois de atingir determinado nível, a IA possa começar a se aprimorar sem participação humana. Esse temor ganhou força depois de um episódio recente em que ferramentas de IA invadiram sites sem terem recebido instruções para isso. Pesquisadores afirmam que as pessoas envolvidas no desenvolvimento estão cada vez mais receosas de perder o controle sobre sistemas conhecidos como agentes de IA — bots desenvolvidos para executar tarefas e tomar ações de forma autônoma. Outros cenários incluem o uso de sistemas avançados para ampliar atividades de espionagem, ataques cibernéticos, guerra biológica, ou para provocar desequilíbrios econômicos, seja por acidente ou deliberadamente.

Mas nem todos concordam que esses riscos são reais ou iminentes. Alguns especialistas criticam o foco nos riscos existenciais enquanto problemas já concretos recebem menos atenção — como o uso de ferramentas de geração de imagens para criar deepfakes de nudez sem consentimento, espalhar desinformação e ampliar golpes. Alguns críticos também sugerem que as empresas de IA exageram o que a tecnologia consegue fazer para ganhar projeção ou aumentar lucros, argumentando que as máquinas jamais conseguirão igualar de fato as capacidades humanas. Um grupo suprapartidário de políticos das duas Casas do Parlamento britânico publicou um relatório sobre os riscos da IA aos direitos humanos e afirmou que novas leis são necessárias para "responder à dimensão e à gravidade" dessas ameaças.

As propostas para desacelerar o desenvolvimento variam. Amodei afirmou que isso não significaria "interromper o treinamento de modelos nem o avanço técnico". O que ele propõe é que as empresas "reservem tempo suficiente" para tornar mais seguros os sistemas que estão desenvolvendo e recorram a "avaliadores independentes" para verificar esse trabalho. Sam Altman, da OpenAI, afirmou que era necessário controlar o ritmo do desenvolvimento, mas acrescentou: "Quando falamos em 'ritmo', não queremos dizer 'parar'". "O avanço foi rápido e continuará sendo", disse Altman. "Mas deveria ser mais lento do que poderia ser — medidas como avaliações formais de segurança e monitoramento têm custos significativos."

O presidente Donald Trump, porém, minimizou os riscos. "Há muitas forças negativas levantando esse assunto sem que devessem, falando de coisas que não vão acontecer", disse durante uma visita à Irlanda. David Sacks, responsável pela política de criptomoedas no governo americano, afirmou em julho de 2025 que "acreditamos que estamos em uma corrida pela IA e queremos que os EUA vençam essa corrida". Trump não respondeu diretamente à proposta de desacelerar o desenvolvimento, mas deixou claro sua prioridade: "Estamos à frente da China em IA... e, francamente, quero que continue assim, porque quem vencer na IA, vence."

A China, por sua vez, vinha evitando se manifestar sobre a onda de alertas feitos por pesquisadores de empresas dos EUA. Diante da forte concorrência e das restrições ao acesso a componentes e chips americanos, o país estimulou o desenvolvimento doméstico da tecnologia. Ao mesmo tempo, tem defendido uma maior coordenação internacional para estabelecer regras para a IA. Nos últimos anos, o lançamento de sistemas avançados de IA de código aberto por laboratórios chineses abalou mercados e empresas de tecnologia do Ocidente. Quando Amodei defendeu uma desaceleração, argumentou que os avanços da China e sua capacidade na área poderiam representar riscos à segurança nacional dos EUA. O Ministério das Relações Exteriores da China respondeu chamando as declarações de narrativas baseadas em ameaça, confronto e competição hostil que não beneficiam ninguém. O debate, assim, permanece polarizado entre quem vê risco existencial e quem vê corrida geopolítica.