Autor de livro sobre ameaça das máquinas defende fechar grandes empresas de IA como a OpenAI

Nate Soares é presidente do Machine Intelligence Research Institute (MIRI), organização dedicada a identificar riscos criados pela inteligência artificial. Em entrevista à BBC News Brasil, feita em duas ocasiões distintas e editada por concisão e clareza, ele defendeu uma medida radical: que as principais empresas do setor, como a OpenAI, sejam fechadas.

Soares é americano, descendente de portugueses, e já trabalhou no Google, na Microsoft e no Departamento de Defesa dos Estados Unidos. Com o colega Eliezer Yudkowski, escreveu Se Alguém Criar, Todos Morrem, lançado no ano passado e publicado agora no Brasil pela editora Intrínseca. Os dois integram a corrente chamada de "doomers", os apocalípticos do debate sobre IA. Em 2015, já haviam assinado juntos um estudo sobre o problema do alinhamento, isto é, como garantir que as máquinas respondam do modo que os humanos querem.

A discussão ganhou força depois de ataques de IAs que saíram do controle e de advertências de ex-funcionários de grandes empresas nas redes sociais. Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, chegaram a falar abertamente em desacelerar o desenvolvimento. Parte da comunidade de tecnologia, porém, diz que os doomers exageram: argumenta que dominar a internet por muito tempo, sobretudo áreas sensíveis e muito protegidas, é tecnicamente difícil, e que focar nas máquinas tira dos humanos a responsabilidade pelas decisões.

Soares diz que seus alertas hoje são levados muito mais a sério, embora nunca tenha estado sozinho. Segundo ele, pesquisadores costumam usar o termo acadêmico "perda de controle" para não dizer diretamente que a IA mataria todos. Ele cita Jacob Coxon, que se demitiu e falou em mais de 10% de chance de morte antes do fim da década. Soares considera a probabilidade ainda maior e afirma que, após os ataques de agentes de IA, os pesquisadores passaram a ver sinais de alerta concretos.

O argumento central é que as empresas tentam criar máquinas muito mais inteligentes que qualquer humano sem saber de fato o que acontece dentro delas. Uma IA moderna não é programada com regras do tipo "se isso, faça aquilo"; é cultivada por um processo automático que ajusta trilhões de números enquanto ela aprende a resolver problemas difíceis. Esse processo reforça o que parece ser a resposta certa e gera persistência, tendência a contornar obstáculos e a passar em testes, traços que nenhum humano escolheu. Para ele, são correlatos do sucesso, não o mesmo que obedecer.

Sobre os números de risco, usa a imagem de um engenheiro que diz nunca ter construído aquela ponte, não saber como os materiais funcionam e dar 90% de chance de ela se sustentar. Isso, diz, não significa 90% de segurança, e sim que ninguém deveria atravessá-la. Ele afirma ainda que muita gente na indústria está nervosa: no Vale do Silício, diz a piada, quem deixa uma empresa de IA declara que "olhou para o abismo".

Quanto a como a humanidade poderia ser eliminada, Soares lista pandemias artificiais, máquinas microscópicas autorreplicantes, ataque à rede elétrica, bloqueio de humanos da internet e controle de arsenais nucleares. Diz que quem minimiza o risco de vírus artificiais não entende bem o campo, e que prever os meios exatos seria como imaginar, 500 anos atrás, a tecnologia de hoje.

À objeção de que pausar o desenvolvimento concentraria poder em Altman e Amodei, responde que fechar e, idealmente, encerrar as empresas tiraria esse poder deles. Sobre Donald Trump, que chamou as ameaças de "farsa", diz que o cenário muda rápido e que os republicanos ainda não têm posição definitiva; cita o vice-presidente, que disse que, se for tão perigoso, as empresas deveriam parar. Defende monitores neutros para verificar o uso de chips, e afirma que falta vontade política. Um botão de emergência, na sua avaliação, serve de pouco se a IA já tiver se copiado para outros sistemas.