Precisamos de ação urgente para enfrentar os riscos que podem surgir
Demis Hassabis, o cientista que ajudou a moldar a inteligência artificial moderna e foi laureado com o Nobel de Química em 2024, volta-se agora para uma questão que transcende a engenharia: como a humanidade governa aquilo que criou. Sua proposta — inspirada na arquitetura regulatória dos mercados financeiros — sugere que os sistemas de IA mais poderosos sejam submetidos a certificações obrigatórias antes de chegarem ao público, reconhecendo que a velocidade da inovação já ultrapassou a capacidade das instituições de compreendê-la. O debate, antes confinado a laboratórios e conferências técnicas, adentra agora o terreno da política global, onde os interesses de nações, mercados e gerações futuras se entrelaçam.
- Hassabis alerta que a inteligência artificial geral — com capacidades cognitivas comparáveis às humanas — está a poucos anos de distância, tornando urgente a criação de salvaguardas antes que a janela de ação se feche.
- A ausência de um framework regulatório claro já produz decisões caóticas: o governo americano bloqueou modelos da Anthropic por risco cibernético, forçando a empresa a retirá-los de circulação por dias, sem critérios transparentes.
- A proposta enfrenta resistência política direta da administração Trump, que teme que qualquer regulação burocrática entregue à China a liderança na corrida tecnológica.
- Hassabis articula apoio nos bastidores com autoridades e líderes da indústria, esperando ver uma estrutura aprovada em meses e operacional antes do fim de 2026.
- O movimento ganha força além do setor: 15 economistas Nobel assinaram manifesto pedindo ação imediata, e figuras como Eric Schmidt emprestam peso político ao debate.
Demis Hassabis, CEO do Google DeepMind e ganhador do Nobel de Química de 2024 por seu trabalho com proteínas e IA, publicou esta semana um artigo defendendo que os modelos de inteligência artificial mais avançados do mundo sejam regulados à semelhança das instituições financeiras. A referência central é a FINRA, entidade que supervisiona corretoras em Wall Street — um modelo que, na visão de Hassabis, poderia ser adaptado para criar um órgão independente de certificação de sistemas de IA.
A mecânica proposta é direta: antes de qualquer lançamento público, laboratórios de IA seriam obrigados a submeter seus modelos a testes de pelo menos 30 dias, avaliando riscos cibernéticos, biológicos e comportamentos inesperados. A aprovação funcionaria como um selo de confiança — um ativo de reputação tanto quanto uma exigência legal. Hassabis acredita que a AGI, inteligência com capacidades cognitivas similares às humanas, está a poucos anos de distância, e que ameaças nucleares e biológicas já estão no horizonte dos modelos mais poderosos.
A proposta não surge isolada. Dario Amodei, da Anthropic, já havia sugerido um modelo regulatório inspirado na aviação civil. Mas Hassabis vai além do discurso: trabalha nos bastidores para construir apoio internacional, conversando com autoridades e colegas do setor, com expectativa de aprovação nos próximos meses e operação antes do fim do ano.
O principal obstáculo é político. O governo Trump resiste a qualquer regulação que possa, na sua leitura, frear os Estados Unidos na disputa tecnológica com a China. Um episódio recente com modelos da Anthropic — bloqueados por risco cibernético sem critérios claros — ilustra, para Hassabis, exatamente o problema: decisões ad hoc substituindo um framework coerente.
O debate ganhou novos aliados fora do Vale do Silício. Um grupo de 15 economistas Nobel assinou manifesto pedindo ação urgente diante do impacto social da automação, com apoio de Eric Schmidt e outros investidores influentes. O que era uma conversa técnica entre engenheiros está se tornando, rapidamente, uma questão central de política pública global.
Demis Hassabis, o homem que ganhou o Prêmio Nobel de Química em 2024 por suas descobertas em proteínas usando inteligência artificial, acredita que chegou a hora de colocar freios na tecnologia que ajudou a criar. O CEO do Google DeepMind publicou um artigo esta semana propondo que os modelos de IA mais poderosos do mundo sejam regulados como se fossem instituições financeiras — com um órgão de supervisão independente que funcione nos moldes da FINRA, a autoridade que fiscaliza as corretoras de Wall Street.
A ideia é simples, mas ambiciosa. Antes de qualquer laboratório de IA lançar um sistema avançado ao público, ele teria de submeter o modelo a testes rigorosos durante pelo menos 30 dias. Uma entidade reguladora analisaria possíveis ameaças cibernéticas, riscos biológicos e comportamentos anômalos. Apenas após aprovação, o sistema poderia chegar às mãos dos usuários. Hassabis acredita que essa certificação funcionaria como um ativo valioso — um selo que agregaria prestígio e confiança aos produtos.
O timing da proposta não é casual. Hassabis alertou que a inteligência artificial geral — aquela com capacidades cognitivas similares ao cérebro humano — está a apenas alguns poucos anos de distância. Enquanto a tecnologia já entrega benefícios reais hoje, ele escreve que ameaças crescentes e desconhecidas estão no horizonte, incluindo riscos nucleares e biológicos. "Precisamos de ação urgente", afirmou, citando desafios que modelos avançados já impõem à cibersegurança.
Não é a primeira voz a clamar por regulação estruturada. Dario Amodei, CEO da Anthropic, sugeriu recentemente que a IA deveria seguir um modelo regulatório similar ao da Federal Aviation Administration, a agência que supervisiona a aviação civil. Hassabis, porém, trabalha nos bastidores há tempos para ganhar apoio internacional, conversando com autoridades e colegas da indústria. Ele espera ver algo aprovado nos próximos meses e operacional antes do fim do ano.
O maior obstáculo é político. O governo Trump manifestou preocupação com regulação de IA, mas tem evitado qualquer controle efetivo — o medo é que barreiras burocráticas deixem os Estados Unidos para trás na corrida tecnológica contra a China. Um episódio recente ilustra a tensão: o governo impediu a exportação dos modelos Fabel 5 e Mythos 5 da Anthropic, citando riscos de ataques cibernéticos, e a empresa retirou os sistemas de circulação por alguns dias. Para Hassabis, esse tipo de decisão ad hoc mostra exatamente por que é necessário um framework regulatório claro e consistente.
A proposta também ganhou respaldo de fora do setor de tecnologia. Na semana passada, um grupo de economistas — incluindo 15 laureados com o Nobel — divulgou um manifesto pedindo ação imediata diante do impacto social que a substituição de humanos por máquinas pode causar. O documento recebeu apoio de executivos e grandes investidores do Vale do Silício, entre eles Eric Schmidt, ex-presidente do Google. O debate sobre como controlar a IA está deixando de ser uma conversa entre engenheiros e se tornando uma questão de política pública.
Citações Notáveis
O rápido avanço da IA exige uma nova abordagem para testar as capacidades dos modelos que estão na fronteira — uma abordagem que seja dinâmica, adaptável e rigorosa.— Demis Hassabis, CEO do Google DeepMind
Precisamos de uma ação urgente para enfrentar os riscos que podem surgir à medida que nos aproximamos da AGI.— Demis Hassabis
A Conversa do Hearth Outra perspectiva sobre a história
Por que Hassabis acha que um modelo de regulação financeira funciona para inteligência artificial?
Porque ambas as áreas lidam com sistemas complexos que podem gerar riscos sistêmicos. A FINRA funciona há décadas supervisionando instituições que movem trilhões. Hassabis quer aproveitar essa experiência.
Mas a IA não é um mercado estabelecido. Como você testa algo que está mudando tão rápido?
Exatamente o desafio. Por isso ele propõe que a entidade seja "dinâmica e adaptável". Os benchmarks teriam de evoluir conforme a tecnologia avança. É um alvo móvel.
Trinta dias parece pouco para testar um sistema que pode ter impacto global.
Pode ser. Mas também é um compromisso — tempo suficiente para detectar problemas óbvios sem congelar a inovação completamente. O ponto é ter *algum* filtro, não um veto absoluto.
Por que o governo Trump está resistindo?
Porque regulação significa burocracia, e burocracia significa atraso. Se a China não tem essas restrições, as empresas americanas sentem que estão competindo com as mãos amarradas. É uma aposta: segurança versus velocidade.
Hassabis ganhou um Nobel. Isso lhe dá credibilidade para falar sobre risco?
Dá. Ele não é um alarmista externo — é alguém dentro do sistema que está dizendo que o sistema precisa de guardrails. Isso é mais difícil de ignorar.