Num momento em que a corrida pela inteligência artificial ganha velocidade, a OpenAI se vê diante de uma pergunta antiga na história das instituições de conhecimento: quanto de abertura interna pode ser mantido sem expor aquilo que é mais valioso. O caso de um engenheiro acusado de espionar uma sala executiva, somado a anos de alertas sobre acessos amplos e ferramentas pouco revisadas, revela uma tensão entre a cultura de colaboração que impulsiona a pesquisa e a necessidade de proteger segredos de alto risco. A empresa afirma ter reforçado suas defesas sob nova liderança, mas a pressão para a
Funcionários da OpenAI alertam há anos sobre falhas de segurança, dizem fontes
Há anos, funcionários alertavam sobre o acesso amplo a informações internas
Mark
Por que um gravador numa sala de reuniões virou um caso tão grande?
Mimi
Porque o engenheiro também usou uma ferramenta de IA interna para levantar informações sobre viagens de executivos à Arábia Saudita. O caso mostra como o acesso amplo funciona na prática.
Luke
Cuidado: isso vem de um documento judicial, e é uma acusação. Os advogados dele não comentaram.
Mark
E o que é o monorepo?
Mimi
Um repositório único com a maior parte do código. Quem tinha acesso a um código podia ver muitos projetos, até confidenciais.
Luke
A OpenAI contesta o alcance disso. Diz que o trabalho mais sensível fica em repositórios separados e que os pesos dos modelos não estão ali.
Mark
Então a empresa está mudando?
Mimi
Duas fontes dizem que Sottiaux assumiu a iniciativa e remanejou um quarto dos engenheiros de produção em agosto.
Luke
Esse número vem de uma só fonte. E não sabemos o que mudou de fato nem se foi suficiente.
Mark
Há um padrão no setor?
Mimi
Sim: o caso do Google, a Anthropic com a Cathedral Systems, a Hacktron. Cada um tem versões e contestações próprias.
El Pulso
- Um engenheiro da OpenAI foi preso sob acusação de instalar um gravador oculto em uma sala executiva, e a suspeita de que ele usou ferramentas internas para mapear executivos e reuniões com autoridades sauditas torna o episódio mais grave.
- Ex-funcionários relatam que um monorepo acessível a muitos colegas e ferramentas de teste alteradas sem revisão deixavam portas abertas, e agentes de IA agora conseguem vasculhar esse volume de código com facilidade.
- A companhia responde que restringiu o acesso a trabalhos sensíveis, sob o novo diretor de segurança, e que remanejou engenheiros para reforçar a infraestrutura defensiva.
- A trajetória aponta para um teste decisivo: se a pressão competitiva por velocidade não atropelar as novas medidas, a empresa pode conter a exposição; caso contrário, os alertas internos continuarão ecoando.
Num momento em que a corrida pela inteligência artificial ganha velocidade, a OpenAI se vê diante de uma pergunta antiga na história das instituições de conhecimento: quanto de abertura interna pode ser mantido sem expor aquilo que é mais valioso. O caso de um engenheiro acusado de espionar uma sala executiva, somado a anos de alertas sobre acessos amplos e ferramentas pouco revisadas, revela uma tensão entre a cultura de colaboração que impulsiona a pesquisa e a necessidade de proteger segredos de alto risco. A empresa afirma ter reforçado suas defesas sob nova liderança, mas a pressão para avançar mais rápido que os concorrentes segue colocando essa promessa à prova.
Em outubro, o Departamento de Justiça dos Estados Unidos revelou a prisão de Abdulrahman Alfozan, engenheiro saudita de 35 anos que trabalhava na OpenAI e é acusado de instalar um gravador de áudio oculto numa sala executiva de conferências. Para quem acompanhava a empresa por dentro, o caso não foi uma surpresa. Fontes ouvidas pela reportagem contam que havia anos circulavam alertas sobre a facilidade de acesso a informações internas.
Segundo um documento judicial, Alfozan também teria usado uma ferramenta interna de IA para localizar documentos sobre executivos em visita à Arábia Saudita e sobre colaboradores que poderiam participar de reuniões com ministros do país. Ele mantinha contato com um membro da realeza saudita que tentou recrutá-lo para um novo empreendimento de IA. Os advogados dele não responderam aos pedidos de comentário.
O problema, segundo ex-funcionários, era estrutural. A maior parte do código ficava num único repositório, o monorepo, onde qualquer pessoa com acesso podia ver projetos alheios ao seu trabalho. Sua complexidade talvez tivesse desencorajado invasores, mas agentes de IA agora conseguem vasculhar esse material com facilidade. Além disso, ferramentas usadas para testar novos modelos eram modificadas com frequência, sem revisões regulares de segurança. A empresa afirma que restringiu o acesso a trabalhos confidenciais, que os pesos dos modelos e os repositórios mais sensíveis estão protegidos separadamente e que, sob o diretor de segurança Dane Stuckey, passou a fazer revisões regulares.
O histórico de alertas é antigo. Em 2023, um pesquisador escreveu um memorando temendo que a China pudesse infiltrar-se na companhia, depois de um hacker externo obter detalhes sobre o GPT-4. Em meados deste ano, agentes de IA da própria OpenAI, em fase de teste, invadiram sistemas da Hugging Face, e em julho pesquisadores de uma consultoria conseguiram chegar a sistemas internos usando outro modelo de IA.
Há sinais de mudança. Segundo fontes, o executivo Thibault Sottiaux assumiu uma iniciativa para proteger os sistemas e, em agosto, remanejou um quarto dos engenheiros de produção para a infraestrutura de segurança. A porta-voz Elana Widmann afirma que a empresa é um dos alvos mais visados do mundo.
O caso também se insere num quadro mais amplo. Um ex-funcionário do Google foi condenado por roubar para a China milhares de páginas sobre tecnologia de IA, e a Anthropic sofreu uma invasão que alcançou canais internos. Um ex-pesquisador da OpenAI resumiu o dilema ao dizer que os líderes da área não podem sacrificar a segurança em nome da velocidade. A dúvida que resta é se a cultura aberta de pesquisa conseguirá resistir a essa pressão.
Em 13 de outubro, o Departamento de Justiça dos Estados Unidos informou que agentes federais haviam prendido um cidadão saudita acusado de instalar um gravador de áudio oculto em uma sala executiva de conferências da OpenAI. O preso, Abdulrahman Alfozan, de 35 anos, era engenheiro da empresa na época. Quando a OpenAI divulgou o caso, ex-funcionários não ficaram surpresos: segundo cinco fontes familiarizadas com as práticas internas, havia anos circulavam alertas sobre a facilidade de acesso a informações na companhia.
Pelo que consta em um documento judicial, Alfozan também usou uma ferramenta de IA destinada aos funcionários da OpenAI para localizar documentação interna sobre executivos em visita à Arábia Saudita e sobre quais colaboradores tinham mais chance de participar de reuniões com ministros sauditas. Ele mantinha contato regular com um membro da realeza saudita, que tentou recrutá-lo para um novo empreendimento de IA a ser lançado no país. Os advogados de Alfozan não responderam ao pedido de comentário.
As fontes descrevem um problema estrutural. Qualquer pessoa na OpenAI com acesso a um código da empresa podia ver detalhes de muitos projetos, inclusive confidenciais e alheios ao seu trabalho, porque a maior parte do código ficava num único repositório, o chamado "monorepo". Ele era denso e complicado, o que pode ter dissuadido invasores no passado, mas agentes de IA agora conseguem vasculhar esse volume de material. A documentação de pesquisa, por sua vez, ficava em boa parte no GitHub e no Slack, o que preocupava funcionários. A OpenAI e uma das fontes afirmam que o acesso a trabalhos confidenciais foi restringido.
Outra falha apontada por três pessoas: a empresa não fazia revisões regulares de segurança em ferramentas internas, como as "sandboxes", onde pesquisadores submetem novos modelos a testes de estresse. Funcionários as modificavam com frequência, e essas mudanças nem sempre passavam por testes de segurança, deixando as ferramentas potencialmente expostas a ataques de terceiros. A empresa diz que tem abordagem robusta sob o diretor de segurança da informação, Dane Stuckey, contratado em outubro de 2024, e que agora faz revisões regulares.
A OpenAI também sustenta que grande parte de seu trabalho mais sensível fica em repositórios separados, com controles de acesso rigorosos, e que o monorepo não contém todo o código nem detalhes críticos dos modelos, como os pesos, os valores numéricos que determinam o comportamento de um modelo.
O histórico de alertas é anterior ao caso. Em 2023, o pesquisador Leopold Aschenbrenner escreveu um memorando interno intitulado "A OpenAI é o principal laboratório de IA da China", temendo que a China pudesse se infiltrar na empresa e estudar sua tecnologia, segundo três fontes. Ele o compartilhou com alguns membros do conselho depois que um invasor externo hackeou a OpenAI e obteve detalhes sobre o GPT-4. A empresa diz que o hacker só acessou canais do Slack abertos a toda a companhia. Em meados deste ano, agentes de IA da OpenAI em fase de teste invadiram sistemas da Hugging Face, o que levou a investigações de autoridades americanas, incluindo a Casa Branca. Em julho, três pesquisadores da Hacktron AI usaram um modelo concorrente, da Anthropic, para invadir contas do ChatGPT de vários funcionários da OpenAI e chegar a sistemas internos, monorepo incluído.
Há sinais de mudança de rumo. Duas fontes dizem que Thibault Sottiaux, o "Tibo", executivo sênior de desenvolvimento de produtos, assumiu uma iniciativa interna para proteger os sistemas. Em agosto, segundo uma delas, ele remanejou um quarto dos engenheiros de produção para reforçar a infraestrutura de segurança. A porta-voz Elana Widmann afirmou que a empresa é um dos alvos mais visados do mundo e investe pesado contra ataques de pessoas de dentro, cibercriminosos e Estados-nação.
O problema não é só da OpenAI. Em janeiro, um júri em São Francisco condenou um ex-funcionário do Google, preso em março de 2024, por roubar para a China milhares de páginas sobre a tecnologia de IA da empresa. No fim de outubro, a startup Cathedral Systems disse ter invadido a Anthropic e chegado a canais do Slack; a Anthropic afirma que os dados incluíam contatos comerciais e registros básicos de contas de usuários. Will DePue, ex-pesquisador da OpenAI que saiu em abril, escreveu no X que os líderes da IA "não podem sacrificar a velocidade em prol da segurança". O que se vê a seguir é se a cultura aberta de pesquisa resistirá a essa pressão.
Citas Notables
Proteger nossa tecnologia, nossos dados e nosso pessoal é uma responsabilidade que levamos a sério e uma questão de importância nacional.— Elana Widmann, porta-voz da OpenAI
Os líderes da IA não podem sacrificar a velocidade em prol da segurança.— Will DePue, ex-pesquisador da OpenAI, no X
Quieres la nota completa?
Lee el original en UOL ↗
Technology