A confiança não pode ser o ponto de partida. Tem de ser o ponto de chegada.
Em um momento em que governos e cidadãos dependem das palavras de executivos para compreender e regular a inteligência artificial, a jornalista Karen Hao lança um alerta que transcende o escândalo: não se trata de acusar líderes do setor de mentira deliberada, mas de reconhecer que os incentivos estruturais do capitalismo tecnológico tornam a transparência radical improvável. A confiança, argumenta ela, não pode ser o ponto de partida de nenhuma conversa séria sobre IA — apenas o destino possível após verificação rigorosa e independente.
- Hao identifica uma assimetria de poder perigosa: executivos como Sam Altman e Demis Hassabis controlam os dados, os sistemas e a narrativa, enquanto o público e os reguladores dependem do que eles escolhem revelar.
- O problema não é a desonestidade individual, mas algo mais difícil de combater — incentivos corporativos que favorecem o exagero de capacidades, a minimização de riscos e a omissão conveniente de limitações reais.
- A urgência cresce porque reguladores ao redor do mundo estão construindo leis de IA com base em informações fornecidas pelas próprias empresas que serão reguladas, criando um conflito de interesse estrutural.
- A saída proposta exige uma mudança de postura coletiva: financiar auditorias independentes, impor transparência como obrigação legal e formar reguladores e jornalistas capazes de questionar — não apenas reportar — as afirmações que recebem.
- O ceticismo sistemático que Hao defende não é pessimismo nem paranoia; é a única forma de prudência compatível com a escala e a velocidade com que a IA está sendo implantada no mundo.
Karen Hao, uma das vozes mais respeitadas na crítica à inteligência artificial, fez uma afirmação direta: os líderes das grandes empresas de IA não merecem confiança automática. Não é uma acusação de mentira, mas algo mais corrosivo — um chamado ao ceticismo sistemático diante das promessas que saem das salas executivas do Vale do Silício.
O argumento central de Hao parte de uma observação sobre incentivos. Empresas de IA têm razões estruturais para exagerar capacidades e minimizar riscos: investidores querem crescimento, acionistas querem retornos, executivos querem legado. Nenhum desses vetores aponta naturalmente para a transparência radical. Quando uma empresa declara que seus sistemas são seguros ou que suas práticas são éticas, essas palavras atravessam filtros corporativos espessos antes de chegar ao público.
O contexto regulatório torna o alerta ainda mais urgente. Governos ao redor do mundo estão tentando criar regras para a IA — e muitas dessas regras se baseiam em informações fornecidas pelas próprias empresas que serão reguladas. É um conflito de interesse que nenhuma retórica sobre 'responsabilidade' consegue dissolver. Um CEO pode acreditar genuinamente que sua empresa faz o bem enquanto omite dados sobre vieses em modelos ou sobre o consumo energético de seus sistemas. A desonestidade não é necessária; basta a lealdade à organização.
O caminho apontado por Hao não passa pela esperança de que as empresas se autorregulam melhor. Passa pela construção de capacidade independente de verificação: pesquisadores externos auditando sistemas, transparência imposta como condição legal, e reguladores e jornalistas com expertise suficiente para questionar — não apenas reproduzir — o que recebem. A confiança, conclui ela, não pode ser o ponto de partida. Tem de ser conquistada, depois de verificação rigorosa. Até lá, o ceticismo é prudência.
Karen Hao, uma das vozes mais respeitadas na crítica à inteligência artificial, fez uma afirmação direta e perturbadora: os líderes das grandes empresas de IA não merecem nossa confiança automática. Não é uma acusação de mentira deliberada, mas algo mais corrosivo — um chamado para o ceticismo sistemático diante das promessas que saem das salas de reunião executivas do Vale do Silício.
A questão que Hao levanta toca em algo fundamental sobre como a tecnologia é governada em tempo real. Quando Sam Altman fala sobre segurança, quando Demis Hassabis descreve capacidades futuras, quando executivos de outras empresas fazem promessas sobre responsabilidade — há uma assimetria de poder. Eles controlam a narrativa, os dados, o acesso aos sistemas. O público, os reguladores, até mesmo muitos jornalistas, dependem do que essas pessoas escolhem revelar.
O argumento de Hao não é novo, mas ganhou urgência. As empresas de IA têm incentivos estruturais para exagerar capacidades e minimizar riscos. Investidores querem crescimento exponencial. Acionistas querem retornos. Executivos querem legado e influência. Nenhum desses incentivos aponta naturalmente para a transparência radical ou para admitir limitações genuínas. Quando uma empresa diz que seus sistemas são seguros, que suas práticas são éticas, que estão comprometidas com a responsabilidade — essas palavras viajam através de filtros corporativos espessos.
O que torna o aviso de Hao particularmente relevante é o contexto regulatório atual. Governos ao redor do mundo estão tentando estabelecer regras para IA. Muitas dessas regras são baseadas em informações fornecidas pelas próprias empresas que serão reguladas. É como pedir ao réu para descrever seus próprios crimes. Há um conflito de interesse que nenhuma quantidade de retórica corporativa sobre "responsabilidade" consegue resolver.
Isso não significa que todos os executivos de IA sejam desonestos. Significa que o sistema cria incentivos para a seleção cuidadosa de fatos, para a ênfase estratégica, para a omissão conveniente. Um CEO pode acreditar genuinamente que sua empresa está fazendo o bem enquanto simultaneamente oculta dados sobre vieses em seus modelos ou sobre o consumo de energia de seus sistemas. A desonestidade não é necessária; apenas a lealdade à organização é suficiente.
O caminho para frente, segundo essa perspectiva, não é confiar mais nas empresas ou esperar que se autorregularem melhor. É construir capacidade independente de verificação. Significa financiar pesquisadores fora das empresas para auditar sistemas de IA. Significa exigir transparência não como um favor corporativo, mas como uma condição legal. Significa que reguladores e jornalistas precisam desenvolver expertise suficiente para questionar as afirmações que recebem, em vez de simplesmente reportá-las.
O que Hao está dizendo, em essência, é que a confiança não pode ser o ponto de partida. Tem de ser o ponto de chegada — e apenas depois de verificação rigorosa e independente. Até lá, o ceticismo não é paranoia. É prudência.
Notable Quotes
Não devemos acreditar no que dizem líderes das empresas de IA— Karen Hao
The Hearth Conversation Another angle on the story
Por que você acha que as pessoas tendem a acreditar no que os líderes de IA dizem, mesmo quando há razões para duvidar?
Porque eles falam com autoridade. Controlam os sistemas, os dados, a narrativa. Há uma assimetria de poder que faz parecer que eles sabem mais do que realmente sabem — ou que estão sendo mais honestos do que seus incentivos permitem.
Mas nem todos os executivos são desonestos, certo? Alguns realmente acreditam no que dizem.
Exatamente. E é por isso que o problema é estrutural, não pessoal. Um CEO pode acreditar sinceramente que sua empresa é responsável enquanto oculta dados inconvenientes. A lealdade à organização faz o trabalho que a mentira deliberada não precisa fazer.
Então qual é a solução? Simplesmente não acreditar em ninguém?
Não. É construir verificação independente. Pesquisadores fora das empresas auditando sistemas. Reguladores com expertise real. Jornalistas que questionam em vez de apenas reportar. A confiança vem depois, se vier.
E se as empresas se recusarem a permitir auditoria independente?
Então você tem sua resposta. Uma empresa que não quer ser verificada está dizendo algo muito claro — não através de palavras, mas através de ações.
Isso não torna a regulação impossível?
Torna mais difícil, sim. Mas também torna mais necessária. Porque o vácuo de verificação independente é exatamente onde os incentivos corporativos prosperam sem obstáculos.