Medalista Fields abandona universidade e funda instituto para estudar segurança matemática da IA

Jacob Tsimerman recebeu em julho o que a comunidade matemática reconhece como seu prêmio máximo: a Medalha Fields, honraria que celebra a busca por verdades matemáticas puras, desvinculadas de qualquer aplicação prática imediata. Três meses depois, na terça-feira 8 de setembro, ele anunciou uma decisão que desafia essa tradição de isolamento acadêmico. Deixando seu cargo de professor na Universidade de Toronto, Tsimerman fundou o Instituto de Segurança Matemática da IA (MAISI), uma instituição de pesquisa independente sediada na região da Baía de São Francisco, sem qualquer vínculo com a OpenAI ou outras empresas do setor.

O instituto começará seu primeiro semestre completo de operações em janeiro de 2027, com planos de contratar entre dez e trinta matemáticos no período inicial, expandindo significativamente nos anos seguintes. Tsimerman atuará como diretor científico e carrega consigo uma mensagem deliberada para a comunidade acadêmica: segurança da inteligência artificial é uma área de pesquisa legítima, intelectualmente interessante e urgente. "É uma busca intelectual legítima, interessante e útil, e há progresso real a ser feito", disse ele em entrevista de Toronto. Durante anos, muitos matemáticos trataram a IA como domínio exclusivo de engenheiros de software, subestimando sua relevância teórica. Mas Tsimerman e seus colegas argumentam que essa visão ignora uma verdade fundamental: engenheiros só conseguem implementar ideias que já foram desenvolvidas. Novas ideias precisam vir de algum lugar.

O fundamento dessa aposta é simples e poderoso. Sistemas de inteligência artificial são construídos inteiramente sobre matemática — álgebra linear, cálculo, probabilidade, estatística. Se a IA é, no seu núcleo, um objeto matemático, então muitos dos seus problemas de segurança são, essencialmente, problemas matemáticos. Andrew Critch, diretor executivo do MAISI e pesquisador que estudou a geometria algébrica de modelos de aprendizado de máquina, reforça o argumento com uma analogia clara: "Precisamos de mais clareza e rigor matemático na indústria de IA. É assim que funciona a energia nuclear: fazemos muitos cálculos matemáticos antes mesmo de ligar uma usina para o primeiro teste."

O instituto se propõe a atacar questões que até agora permaneceram largamente no domínio da engenharia e da filosofia. Como sistemas de IA interagem e cooperam entre si? Como um agente de IA pode provar matematicamente que está se comportando de forma responsável e que suas respostas são precisas? Como desenhar sistemas desde a base para que sejam resilientes contra vulnerabilidades ainda desconhecidas? Uma ferramenta específica que Tsimerman menciona é a criptografia de conhecimento zero — um método matemático que permite verificar a integridade de um sistema sem revelar detalhes proprietários como parâmetros do modelo ou dados de treinamento.

Tsimerman não está sozinho nessa empreitada. Shafi Goldwasser, cofundadora do MAISI, também lançou em agosto um instituto similar: o Instituto para Superinteligência Responsável (RESI), baseado em Cambridge, Massachusetts, com foco igualmente matemático. A equipe científica fundadora do RESI inclui Vinod Vaikuntanathan, criptógrafo do MIT, e Adam Tauman Kalai, pesquisador de segurança e ética em IA que deixou recentemente a OpenAI. Essa convergência de esforços sugere que a comunidade matemática de ponta está reconhecendo um vácuo crítico.

O tom de Tsimerman e seus colegas rejeita a resignação que permeia parte do debate sobre segurança em IA. Quando confrontado com a ideia de que "não é razoável esperar um alto nível de segurança da IA", ele responde com firmeza: é razoável, é necessário, e devemos exigir um padrão muito mais elevado do que o atual. Ravi Vakil, matemático de Stanford e consultor científico do MAISI, enquadra o desafio como responsabilidade coletiva de todos os grupos de especialistas relevantes. "Precisamos abordar isso com todos os recursos disponíveis. Precisamos de múltiplas frentes de ataque."

Vakil também oferece uma honestidade importante: "A matemática pode ser a solução definitiva, ou não. Mas talvez precisemos de muitas soluções; esta é uma delas." Essa humildade — reconhecer que a matemática é uma ferramenta entre várias, não a solução completa — marca o tom do empreendimento. O que Tsimerman e seus colegas estão propondo não é que os matemáticos resolvam sozinhos a segurança da IA, mas que a comunidade matemática finalmente reconheça que tem um papel essencial a desempenhar, e que esse papel começa agora.