IA e o apocalipse: por que apostar contra o fim do mundo é tão difícil

Os mercados financeiros vivem um dilema peculiar: como precificar o fim do mundo? A questão não é retórica. Pesquisadores dos principais laboratórios de inteligência artificial temem genuinamente que suas criações possam ser usadas por Estados hostis ou grupos terroristas para desenvolver armas biológicas. Alguns vão além e atribuem probabilidades não negligenciáveis à extinção da humanidade — um resultado que, como observa um economista com certa ironia, tornaria qualquer oferta pública inicial bastante irrelevante.

O economista Tyler Cowen propôs um desafio direto aos alarmistas: se realmente acreditam que o apocalipse está próximo, por que não apostam dinheiro nisso? Se suas previsões fossem precisas, os sinais de catástrofe iminente deveriam começar a aparecer nos mercados muito antes do desastre final. Cowen e seus colegas chamam esse tipo de aposta de "imposto sobre a conversa fiada" — uma forma de separar a retórica genuína da especulação vazia. O argumento é elegante: quem tem convicção coloca dinheiro na mesa.

Mas a realidade dos mercados financeiros é mais complicada. Alguns dos riscos moderados associados à IA já estão sendo precificados. As preocupações com ataques cibernéticos impulsionados por sistemas de inteligência artificial elevaram significativamente o valor das ações de empresas de segurança digital. A CrowdStrike, por exemplo, viu seu preço mais que dobrar nos últimos seis meses e agora é negociada a quase 200 vezes seu lucro projetado para os próximos 12 meses. Para essas companhias, o medo é um ativo valioso.

Investidores mais sofisticados poderiam explorar essa lógica de forma inversa. Se empresas de segurança cibernética estão sendo negociadas com prêmio, então as organizações mais vulneráveis a ataques — bancos regionais, operadoras de telecomunicações, empresas de saúde e transportes — deveriam teoricamente estar com desconto. Uma estratégia seria comprar contratos de swap de crédito contra a dívida dessas instituições, apostando que seus custos de financiamento aumentarão conforme os riscos se materializarem.

O mercado de seguros, porém, revela as limitações reais dessa lógica. Para riscos convencionais como enchentes ou incêndios florestais, a solução é simples: compre um seguro. Mas o mercado de seguros contra riscos relacionados à IA desenvolveu-se lentamente. No início deste ano, o Insurance Services Office — a organização que estabelece padrões para o setor — divulgou um novo modelo de apólice que explicitamente exclui danos causados por IA generativa de uma ampla gama de coberturas. Grandes seguradoras pediram aos reguladores autorização para excluir essas ameaças ainda mal compreendidas. Algumas startups tentam preencher essa lacuna, mas permanecem minúsculas diante da escala do problema.

O obstáculo fundamental é conceitual. Na economia, risco é um termo preciso: refere-se a probabilidades que podem ser quantificadas com base em dados históricos. Os perigos associados à IA são diferentes. São novos, pouco compreendidos, imprevisíveis e mal definidos. A base de evidências é pequena. Nem compradores nem vendedores de seguros sabem como precificá-los adequadamente. Seguradoras não conseguem cobrir o que não conseguem medir.

Ao longo da história, muitos profetas do apocalipse fizeram previsões vagas sobre colapsos nas cadeias de abastecimento, crises financeiras ou desastres econômicos. Se fossem tão visionários quanto afirmam, poderiam facilmente ganhar dinheiro com essas previsões. Mas a IA representa um caso diferente. No extremo mais radical do espectro, os riscos são por natureza impossíveis de proteger através de hedge financeiro. Mesmo que fosse possível calcular as probabilidades de uma ameaça existencial, não haveria muito sentido em comprar proteção de contrapartes que não estariam mais aqui para pagar a indenização. É o ponto em que a lógica dos mercados encontra seus próprios limites.