Em meio à corrida para que a inteligência artificial acelere a descoberta científica, dois episódios recentes revelam a outra face dessa promessa: a disputa sobre a suposta solução de um dos grandes enigmas matemáticos, anunciada pela OpenAI, e a enxurrada de artigos com marcas de geração automática que pressiona revistas e revisores. Trata-se, em essência, de uma pergunta antiga sobre a confiança que a humanidade deposita no conhecimento: quando a máquina participa da descoberta, quem garante a origem, a originalidade e a veracidade do que foi encontrado? A resposta ainda está em aberto, e ta
Desavença entre matemáticos e dúvidas sobre a OpenAI reacendem temores de que a IA corrói a confiança na ciência
Duas caixas guardariam dez vezes mais que todos os textos da internet
Mark
Por que a briga entre matemáticos importa além da matemática?
Mimi
Porque mostra o ponto frágil: pesquisadores guardaram rascunhos numa ferramenta da OpenAI e depois se perguntaram se aquilo teria alimentado o resultado da própria empresa.
Luke
Convém separar: Buckmaster disse que não acusava ninguém. O que existe é uma dúvida, não uma prova de uso indevido.
Mark
E o que a OpenAI respondeu?
Mimi
Que ninguém na empresa, humano ou IA, viu o trabalho da outra equipe. Primeiro disse que não podia descartar o efeito de dados anonimizados; dias depois, que os comandos de Buckmaster não poderiam ter influenciado nada.
Luke
Repare que a resposta mudou de tom. E a solução em si ainda não foi verificada; a organização do prêmio falou em "aparentemente" resolvida.
Mark
O AlphaFold mostra o lado bom, não?
Mimi
Sim: 200 milhões de proteínas em um ano e um Nobel. Mas o caso dos cristais divide opiniões.
Luke
Ali há duas versões: dois químicos dizem que não acharam nada realmente novo numa amostra, e a DeepMind diz ter checado cada composto. Não dá para arbitrar só com esse texto.
Mark
E os quase 90% de artigos com sinais de IA?
Luke
É a estimativa de uma equipe, baseada em palavras típicas de modelos, e os detectores erram. Indica uso, não necessariamente fraude.
Le Pouls
- A OpenAI anunciou ter resolvido um problema ligado às equações de Navier-Stokes em 88 horas, e a comunidade matemática entrou em alerta.
- Matemáticos questionam se rascunhos guardados no Codex, a ferramenta de programação da empresa, podem ter alimentado a descoberta sem que ninguém percebesse.
- A OpenAI responde que ninguém teve acesso ao trabalho concorrente e que os dados de Buckmaster não poderiam ter influenciado o sistema, mas a análise do resultado ainda levará meses.
- Revistas científicas se afogam em artigos com indícios de IA, referências inexistentes e pareceres de revisão por pares alterados por modelos de linguagem.
- Editoras começam a conter o avanço, mas as equipes de integridade precisam crescer depressa para que a confiança na pesquisa não desmorone.
Em meio à corrida para que a inteligência artificial acelere a descoberta científica, dois episódios recentes revelam a outra face dessa promessa: a disputa sobre a suposta solução de um dos grandes enigmas matemáticos, anunciada pela OpenAI, e a enxurrada de artigos com marcas de geração automática que pressiona revistas e revisores. Trata-se, em essência, de uma pergunta antiga sobre a confiança que a humanidade deposita no conhecimento: quando a máquina participa da descoberta, quem garante a origem, a originalidade e a veracidade do que foi encontrado? A resposta ainda está em aberto, e talvez dependa menos da força dos modelos do que da paciência e do rigor das instituições que os recebem.
Num antigo prédio de Londres, freezers guardam bilhões de genes que a empresa Basecamp Research pretende usar para treinar uma inteligência artificial capaz de entender a linguagem da biologia. O projeto segue a mesma lógica que levou modelos como ChatGPT e Gemini a aprender com a internet inteira, e reflete a crença, compartilhada por muitos cientistas, de que a IA vai acelerar a pesquisa.
Mas essa aceleração vem acompanhada de controvérsia. No mês passado, a OpenAI afirmou ter resolvido um dos grandes problemas em aberto da matemática, ligado às equações de Navier-Stokes, em apenas 88 horas. Horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, levantou suspeitas: ele e um colega, que trabalha para a Anthropic, tentavam resolver o mesmo problema e haviam guardado seus rascunhos no Codex, a ferramenta de programação da própria OpenAI. Buckmaster não acusou ninguém, mas perguntou como as notícias sobre o avanço haviam chegado à empresa.
A OpenAI negou qualquer acesso ao trabalho da outra equipe e, em seguida, afirmou que os comandos enviados por Buckmaster não poderiam ter influenciado o sistema. O caso segue sem desfecho claro.
O episódio toca numa preocupação mais silenciosa: a de que a IA corroa a confiança no próprio processo científico. Há também as "alucinações", em que ferramentas produzem informações falsas, e isso parece ocorrer com frequência crescente. A jornalista Dalmeet Singh Chawla avalia que as equipes de integridade das revistas precisarão crescer muito para acompanhar o ritmo.
O potencial, porém, é real. O AlphaFold, da Google DeepMind, previu a estrutura de 200 milhões de proteínas e rendeu um Nobel de Química. Já a promessa de milhões de novos materiais foi questionada por químicos que encontraram muitas variações triviais de compostos conhecidos.
O risco maior é o chamado "AI slop": quase 90% dos artigos biomédicos analisados mostravam indícios de IA, e cerca de 147 mil trabalhos inexistentes foram citados em referências no último ano. Editoras como a Elsevier já reagem. O desafio agora é reforçar a verificação antes que a confiança na ciência seja abalada.
Numa antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos guarda dezenas de caixas com tubos de vidro identificados por código de barras. Dentro deles estão 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório, duas dessas caixas bastariam para armazenar dez vezes mais informação do que todos os textos disponíveis na internet. A empresa dele, a Basecamp Research, quer reunir o máximo possível de DNA para treinar uma inteligência artificial capaz de compreender a linguagem da biologia, seguindo a lógica das empresas americanas e chinesas que juntaram textos da internet para criar modelos como o ChatGPT e o Gemini.
Vince, como muita gente na indústria e na academia, acredita que a IA vai acelerar a pesquisa científica. O uso dela, porém, gera cada vez mais controvérsia. No mês passado, a OpenAI anunciou ter resolvido um dos grandes problemas em aberto da matemática, ligado às equações de Navier-Stokes. Segundo a empresa, seus agentes de IA chegaram à solução em 88 horas. A organização que concede o prêmio a quem resolver a questão disse que o problema "aparentemente foi resolvido", mas avisou que a análise do resultado levará tempo.
Horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, tornou públicas suas preocupações. Ele havia formado uma equipe independente com Levent Alpöge, matemático que também trabalha para a Anthropic, concorrente da OpenAI. Os dois tentavam resolver o mesmo problema e guardavam os rascunhos no Codex, a ferramenta de programação da OpenAI. Buckmaster disse que seu colega fora informado de que notícias sobre o avanço da pesquisa tinham "chegado" à OpenAI, sem explicar como. Questionou se o material guardado no Codex poderia ter sido usado no trabalho da empresa, ressalvando que "não estava acusando ninguém de nada".
A OpenAI afirmou que ninguém na companhia, humano ou IA, teve acesso ao trabalho da outra equipe antes da publicação. De início, disse que, embora improvável, não podia "descartar" que dados anonimizados do uso de seus produtos tivessem ajudado a aprimorar os modelos. Dias depois, declarou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma". O caso é complexo, e ainda não se sabe exatamente o que aconteceu.
O episódio ilustra uma preocupação menos noticiada do que a de robôs criando vírus ou armas químicas: a de que a IA abale a confiança no processo científico, ao levantar dúvidas sobre a originalidade e a precisão das pesquisas. Há também o problema das "alucinações", em que ferramentas como Claude e Gemini produzem informações falsas, e há indícios de que isso ocorre com frequência crescente na ciência. Dalmeet Singh Chawla, jornalista que há uma década cobre má conduta científica, diz que a IA generativa transformou todo o processo e que as equipes de integridade das revistas precisarão crescer drasticamente. Hoje, afirma, "parece que não estão conseguindo".
O potencial da tecnologia é real. Em 2020, a Google DeepMind resolveu o problema do dobramento de proteínas; seu modelo AlphaFold previu com precisão a estrutura de 200 milhões de proteínas em um ano, trabalho que levaria centenas de milhões de anos em laboratório. Os resultados foram abertos aos pesquisadores, e o diretor da DeepMind e o principal cientista do projeto receberam o Nobel de Química. Pushmeet Kohli, chefe da área científica da empresa, chama o feito de "marco histórico".
Em outros campos, há acusações de exagero. A DeepMind anunciou mais de 2 milhões de novas estruturas cristalinas, o equivalente a "quase 800 anos de conhecimento", das quais cerca de 380 mil seriam promissoras para produção em laboratório. Os químicos Anthony Cheetham e Ram Seshadri, da Universidade da Califórnia, analisaram uma amostra aleatória e escreveram na Chemistry of Materials que não encontraram nenhum composto realmente inovador, e que muitos eram "adaptações triviais de materiais conhecidos". A DeepMind rejeita a crítica: diz ter verificado a originalidade de cada composto e lembra que a troca de um único átomo originou muitos materiais úteis.
O risco maior é o chamado AI slop. Em 2024, Dmitry Kobak, da Universidade de Ghent, analisou mais de 1 milhão de artigos biomédicos e constatou que, até dezembro do ano passado, quase 90% traziam indícios de uso de IA, embora os detectores não sejam infalíveis (alguns classificaram a Constituição americana como gerada por IA). Uma equipe de Stanford achou até 17% de pareceres de revisão por pares em quatro conferências substancialmente alterados por modelos de linguagem. E pesquisadores de Cornell apontaram que, no ano passado, cerca de 147 mil trabalhos inexistentes foram citados em referências. Editoras como a Elsevier já adotam medidas de contenção; a verificação de integridade é a frente a observar.
Citations marquantes
Parece que não estão conseguindo.— Dalmeet Singh Chawla, jornalista de ciência, sobre as equipes de integridade das revistas
Não estava acusando ninguém de nada.— Tristan Buckmaster, matemático da Universidade de Nova York
Envie de l'histoire complète ?
Lire l'original sur Correio Braziliense ↗