Nobel de Física vai para Geoffrey Hinton, o 'padrinho' da IA que agora alerta para seus riscos

O Comitê do Nobel anunciou nesta terça-feira os laureados de Física de 2024: o britânico Geoffrey Hinton, de 76 anos, da Universidade de Toronto, no Canadá, e John Hopfield, de 91 anos, da Universidade de Princeton, nos Estados Unidos. Os dois foram premiados pelo trabalho pioneiro em redes neurais artificiais e em aprendizado de máquina, o chamado machine learning.

O Nobel de Física costuma ser descrito como uma escolha distante do seu tempo. Desta vez, a decisão foi na direção oposta: ela coloca o comitê no meio de um debate contemporâneo, o dos potenciais e dos riscos da inteligência artificial para a humanidade.

Hinton é uma das vozes mais citadas nesse debate. Em maio do ano passado, pediu demissão de um alto cargo no Google e, em entrevista ao jornal americano The New York Times, denunciou o perigo das novas tecnologias em desenvolvimento, que ele mesmo ajudou a criar.

Naquela conversa, ele não descartou os benefícios. "Não temos experiência de conviver com coisas mais inteligentes do que nós", disse. Segundo ele, a tecnologia será maravilhosa em muitos aspectos: trará atendimento médico melhor e tornará quase todos os campos mais eficientes. Com um assistente de IA, afirmou, as pessoas farão o mesmo volume de trabalho em muito menos tempo. Mas acrescentou que também é preciso se preocupar com consequências ruins, em particular com a ameaça de que essas coisas saiam do controle.

Na coletiva após o anúncio, um jornalista lembrou a entrevista ao Times, na qual Hinton admitia arrependimento por certos aspectos de seu trabalho diante dos riscos a médio e longo prazo. Ele distinguiu dois tipos de arrependimento: o de quem faz algo que sabia que não devia e o de quem age em certas circunstâncias e vê o resultado terminar mal. O dele, disse, é do segundo tipo. Nas mesmas circunstâncias, faria o mesmo de novo, mas se preocupa com a possibilidade de existirem sistemas mais inteligentes que nós e que assumam o controle.

A trajetória dele nas redes neurais, sistemas matemáticos que simulam o funcionamento do cérebro e aprendem a partir da análise de dados, começou em 1972, quando era estudante de pós-graduação na Universidade de Edimburgo, no Reino Unido. Na década de 1980, dava aulas de ciência da computação na Universidade Carnegie Mellon, na Pensilvânia. Deixou a instituição e foi para o Canadá. Na época, a maior parte da pesquisa em IA nos Estados Unidos era financiada pelo Departamento de Defesa, e Hinton era contrário ao uso da tecnologia no campo de batalha.

Em 2012, ele e dois alunos da Universidade de Toronto, Ilya Sutskever e Alex Krishevsky, desenvolveram uma rede neural capaz de analisar milhares de fotos e aprender a identificar determinados objetos nas imagens. É esse trabalho que o Nobel reconhece. Em 2018, Hinton e dois colaboradores já haviam recebido o prêmio Turing, frequentemente chamado de Nobel da computação, também por suas pesquisas em redes neurais.

Esse caminho levou a tecnologias cada vez mais poderosas, entre elas chatbots como o ChatGPT e o Google Bard. Com o prêmio, o alerta de quem ajudou a criar essas ferramentas ganha o peso do reconhecimento científico máximo, e o debate sobre controle e consequências da IA tende a ganhar ainda mais atenção.