Desavença entre matemáticos sobre suposto avanço da OpenAI reacende temores de que a IA abale a confiança na ciência

Numa antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos guarda dezenas de caixinhas com tubos de vidro identificados por código de barras. Juntos, os tubos contêm 100 bilhões de genes. O médico Oliver Vince, um dos fundadores da Basecamp Research, afirma que apenas duas dessas caixas poderiam armazenar dez vezes mais informação do que todos os textos disponíveis na internet. A empresa quer reunir o máximo possível de DNA para treinar uma inteligência artificial capaz de compreender a linguagem da biologia, estratégia parecida com a de empresas americanas e chinesas que juntaram enormes volumes de texto para criar modelos como o ChatGPT e o Gemini.

Vince, como muitos no setor empresarial e na pesquisa acadêmica, acredita que a IA dará um grande impulso à ciência. O uso dela, porém, vem gerando controvérsias crescentes. No mês passado, a OpenAI anunciou ter resolvido um dos grandes problemas em aberto da matemática, ligado às equações de Navier-Stokes. Segundo a empresa, seus agentes de IA chegaram à solução em 88 horas. A organização que concede o prêmio a quem resolver o problema disse que a questão "aparentemente foi resolvida", mas ressalvou que a análise do resultado levará tempo.

Horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, divulgou suas preocupações. Ele havia formado uma equipe independente com Levent Alpöge, que também trabalha na Anthropic, concorrente da OpenAI. Os dois tentavam resolver o mesmo problema e guardavam os rascunhos no Codex, ferramenta de programação da OpenAI. Buckmaster contou que Alpöge fora informado de que notícias sobre o avanço da pesquisa haviam "chegado" à OpenAI, sem explicar como. Ele questionou se o material armazenado no Codex poderia ter sido usado no trabalho da empresa, embora tenha dito que "não estava acusando ninguém de nada".

A OpenAI respondeu que ninguém na companhia, humano ou IA, teve acesso ao trabalho da outra equipe antes da publicação. Num primeiro momento, disse que, embora fosse improvável, não podia "descartar" que dados anonimizados do uso de seus produtos tivessem ajudado a aprimorar os modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma". O caso é complexo, e ainda não se sabe exatamente o que aconteceu.

A disputa expõe uma preocupação menos noticiada do que a de robôs fabricando vírus ou armas químicas: que a IA corroa a confiança no processo científico, abrindo dúvidas sobre a originalidade e a precisão das pesquisas. Há também o problema das "alucinações", em que ferramentas como Claude e Gemini produzem informações falsas. Há indícios de que isso ocorre com frequência crescente na ciência, e o temor é que fique difícil distinguir descobertas reais de ficção gerada por máquina.

As revistas científicas, guardiãs da integridade da pesquisa, parecem não dar conta da avalanche. O jornalista Dalmeet Singh Chawla, que há uma década cobre má conduta científica, diz que a IA generativa transformou todo o processo e que as equipes de verificação precisarão crescer drasticamente para ter chance de enfrentar o problema. "No momento, parece que não estão conseguindo", afirma.

O potencial, contudo, é real. Em 2020, a Google DeepMind resolveu um grande desafio da biologia, o dobramento das proteínas, com o AlphaFold, que previu com precisão a estrutura de 200 milhões de proteínas em um ano. Em laboratório, o trabalho equivalente levaria centenas de milhões de anos. Os resultados foram abertos aos pesquisadores, e o diretor da DeepMind e o principal cientista do projeto receberam o Nobel de Química. Pushmeet Kohli, responsável pela área científica da empresa, chama o feito de "marco histórico".

Em outras frentes, há acusações de exagero. A DeepMind anunciou mais de 2 milhões de novas estruturas cristalinas, o equivalente a "quase 800 anos de conhecimento", das quais cerca de 380 mil seriam promissoras para produção em laboratório. Os químicos Anthony Cheetham e Ram Seshadri, da Universidade da Califórnia, analisaram uma amostra aleatória e escreveram na Chemistry of Materials que não encontraram nenhum composto realmente inovador, só "adaptações triviais de materiais conhecidos". Não disseram que o método estava errado, mas pediram validação por químicos. A DeepMind rejeita a crítica e diz ter checado a originalidade de cada composto.

O risco maior seria o chamado AI slop nas revistas. Dmitry Kobak, da Universidade de Ghent, analisou mais de 1 milhão de artigos biomédicos em busca de expressões típicas de LLMs e concluiu que, até dezembro do ano passado, quase 90% mostravam indícios de uso de IA, embora os detectores não sejam infalíveis (alguns chegaram a classificar a Constituição americana como gerada por IA). Uma equipe de Stanford, liderada por Weixin Liang e James Zou, achou que até 17% dos pareceres enviados a quatro grandes conferências de computação haviam sido substancialmente alterados por modelos de linguagem. E pesquisadores da Cornell descobriram que a IA inventava estudos nas listas de referências: cerca de 147 mil trabalhos inexistentes foram citados no ano passado. A validação do resultado da OpenAI e a capacidade das revistas de filtrar conteúdo artificial dirão quanto da confiança científica resiste.