Frei Betto questiona profetas do apocalipse tecnológico e a obsessão com IA destrutiva

Há alguns anos, um ex-funcionário da OpenAI chamado Daniel Kokotajlo anunciou que a inteligência artificial alcançaria um nível de superinteligência capaz de extinguir a humanidade em abril de 2027. Depois refez os cálculos e empurrou o apocalipse para 2034. Ele integra um grupo autodenominado "AI Doomers" — os que acreditam que as máquinas nos destruirão. Jacob Coxon, aos 27 anos, saiu da Anthropic para denunciar que a empresa estava desenvolvendo uma IA fora de controle e com poder suficiente para exterminar nossa espécie. Evan Hubinger, responsável pela segurança e alinhamento na mesma empresa, garante que há mais de 10% de chance de a IA nos exterminar na próxima década, possivelmente através de vírus ou disseminação bacteriológica que ela mesma criaria.

Frei Betto, escritor e autor de Anatomia do Poder, observa que essa narrativa apocalíptica não é nova. Toda vez que uma tecnologia emerge, alguém aparece para anunciar o fim do mundo. Aconteceu com a imprensa, o rádio, o cinema, a televisão, o computador e a internet. A diferença agora, ele nota com certa ironia, é que os profetas do apocalipse podem pedir à própria IA que escreva o comunicado sobre nossa destruição iminente.

A história dos profetas do fim é longa. No século II, os montanistas anunciaram que a Nova Jerusalém irromperia em Pepuza, na Frígia, atual Turquia. Dez séculos depois, Joaquim de Fiore previu que a Era do Espírito Santo chegaria em 1260. Em 1524, astrólogos de Londres alertaram sobre um dilúvio catastrófico que fez multidões se refugiarem em lugares altos — nada aconteceu. O judeu Sabbatai Zevi marcou o retorno do Messias para 1666, converteu-se ao Islã quando o prazo passou. E toda vez que um milênio completa seu ciclo, surgem novas cassandras. Até o "bug do milênio" em 2000 prometeu caos digital.

Mas há um problema lógico na narrativa dos AI Doomers que Frei Betto expõe com clareza: se uma superinteligência nos extinguisse, estaria destruindo sua própria fonte de energia. Quem a alimentaria? Quem saciaria sua insaciável sede de água? Para que serve uma máquina superinteligente em um mundo sem outros seres dotados de inteligência natural? Seria, nas palavras do frade, uma "Burrice Monumental".

O verdadeiro ponto de Frei Betto não é negar os riscos reais da inteligência artificial — manipulação, vigilância, fraude, guerra, concentração de poder. Esses perigos existem e merecem atenção séria. Mas a humanidade já possui uma extraordinária experiência em se destruir sem ajuda de máquinas. Inventamos guerras, escravidão, colonialismo, campos de concentração, armas nucleares, tortura industrializada, genocídios. Conseguimos aumentar o preço do pão enquanto prometemos combater a inflação. Quando nem conseguimos impedir que um motorista embriagado entre em uma avenida na contramão, estamos preocupados com superinteligências dominando o planeta.

A espécie humana também produz uma quantidade impressionante de burrice artificial, sem auxílio de computadores. Basta abrir as redes digitais, onde milhões compartilham diariamente informações que nunca verificaram, opiniões que não compreendem, certezas adquiridas cinco minutos antes. Talvez o perigo maior não seja a IA tornar-se demasiadamente inteligente, mas os humanos continuarem demasiadamente estúpidos.

Frei Betto imagina o que uma superinteligência veria ao estudar a história humana. Encontraria Platão, Bach, Camões, Michelangelo, Machado de Assis, Einstein. Mas também encontraria guerras religiosas, reality shows, comentários de internet, pessoas brigando por causa de futebol, indivíduos procurando os óculos enquanto os mantêm sobre a cabeça. Talvez a máquina concluísse: "Inteligentes vocês não são tanto quanto se acham. Interessantes, porém, são".

E aí reside nossa possível salvação. A inteligência humana não consiste apenas em resolver equações ou processar trilhões de informações. Somos a espécie que inventou a poesia, a compaixão, a música, o abraço, o beijo, a gargalhada, a saudade. Nada disso é necessário para sobrevivência biológica, e no entanto sem elas nossa sobrevivência não teria sentido. A IA pode saber tudo sobre o amor sem saber amar. Pode explicar perfeitamente uma lágrima sem chorar. Pode escrever sobre morte sem ter medo de morrer. Inteligência não é sinônimo de humanidade. A verdadeira pergunta não é se a IA destruirá a humanidade, mas o que faremos com a IA. A máquina não nasce com moral. Quem decide para que servirá uma tecnologia são os seres humanos que a controlam, financiam e utilizam. A pólvora não inventou a guerra — a ganância inventou. A TV não inventou a mentira. A internet não inventou as fake news. E a IA não inventa a estupidez. No máximo, imprime a ela uma velocidade inédita.