A IA é arriscada demais para que todos a desenvolvam sem controle
Em um momento em que a inteligência artificial avança mais rápido do que as instituições humanas conseguem compreender, a questão central não é mais se haverá disrupção, mas se a civilização estará preparada para absorvê-la. A reflexão proposta coloca a IA no mesmo plano dos grandes desafios existenciais da história: uma força que pode redistribuir poder, dissolver responsabilidades e corroer as fundações da democracia — ou, se governada com sabedoria coletiva, ser domesticada a serviço do bem comum. O argumento é simples e urgente: a incerteza sobre a velocidade do impacto não é razão para esperar, mas razão para agir agora.
- Até a Anthropic, uma das empresas líderes em IA, admitiu publicamente que está delegando partes do desenvolvimento da tecnologia aos próprios sistemas — um sinal de alarme que valida o medo coletivo.
- O debate sobre a velocidade da destruição de empregos permanece aberto, mas Vinod Khosla adverte que 80% do trabalho economicamente valioso pode ser assumido por máquinas antes que qualquer estrutura política esteja pronta para responder.
- A ausência de responsabilização clara — sobre quem responde quando uma IA causa danos em guerras, pesquisas biológicas ou decisões institucionais — representa uma lacuna legal e moral de proporções históricas.
- A União Europeia emerge como reguladora de referência global, mas qualquer regime eficaz exige que China e Estados Unidos se tornem pilares de um acordo internacional vinculante.
- Sem redistribuição da riqueza gerada pela IA, a concentração de poder econômico e político em poucas mãos pode ser o vetor silencioso pelo qual a democracia colapsa — e esse processo já está em curso.
A incerteza sobre o que a inteligência artificial fará com nossas instituições e nossos empregos é, por si só, razão suficiente para agir antes que seja tarde. Os riscos não são apenas econômicos: a IA ameaça a possibilidade de responsabilizar pessoas por decisões importantes, o Estado de Direito e a própria democracia — tudo isso enquanto a tecnologia avança impulsionada por uma corrida feroz entre empresas e entre potências globais.
Há debate legítimo sobre a velocidade dessa transformação. A OIT estima que apenas 3,3% do emprego global enfrenta a maior exposição à IA generativa, e historicamente os ganhos de produtividade das grandes inovações demoraram décadas para se materializar. Mas investidores como Vinod Khosla acreditam que a IA assumirá 80% do trabalho economicamente valioso em 80% dos empregos mais rápido do que a maioria imagina. O ceticismo sobre a velocidade é justificado — a preparação, não.
Estar pronto exige, primeiro, responsabilização clara: programadores, gestores e tomadores de decisão devem responder civil e criminalmente pelos danos causados por sistemas de IA que operam sob sua autoridade. Segundo, não se pode confiar apenas no senso moral das empresas criadoras — assim como medicamentos exigem testes antes de chegar ao mercado, novos softwares de IA deveriam passar por regimes regulatórios rigorosos. E como o negócio é global, esses regimes precisam ser globais.
A União Europeia já ocupa o papel de reguladora de primeira instância, vista com mais confiança do que EUA ou China por ser percebida como menos capturada por interesses corporativos. Mas um acordo verdadeiramente eficaz exige que as duas grandes potências tecnológicas sejam suas pedras angulares. Por fim, se a IA concentrar riqueza e poder nas mãos de poucos, a democracia corre risco real de colapso autocrático — processo que já dá sinais de estar em curso. Compartilhar uma parte significativa da renda e da riqueza geradas pela tecnologia não é idealismo: é a condição mínima para que o governo do povo sobreviva.
A incerteza sobre o que a inteligência artificial fará com nossas instituições, nossos empregos e nossa capacidade de permanecer humanos justifica que nos preparemos agora, antes que seja tarde demais. Esse é o argumento central de uma reflexão sobre os riscos reais e existenciais que essa tecnologia traz consigo.
Os perigos não são apenas econômicos. A IA ameaça valores fundamentais: a possibilidade de responsabilizar pessoas por decisões importantes, o Estado de Direito, a democracia e até mesmo o significado do que é ser humano. Tudo isso enquanto a tecnologia avança em ritmo acelerado, impulsionada por competição feroz entre empresas e entre os Estados Unidos e a China. A própria Anthropic, uma das líderes do setor, publicou recentemente um aviso: estamos delegando cada vez mais o desenvolvimento de IA aos próprios sistemas de IA. Levado longe o suficiente, com poder computacional suficiente, isso aponta para máquinas capazes de projetar e desenvolver autonomamente seus sucessores. Se até a Anthropic tem medo, o medo do resto de nós é justificado.
Mas há debate legítimo sobre a velocidade e a escala dessa transformação. Um em cada quatro trabalhadores globalmente está em uma ocupação com alguma exposição à IA generativa, segundo a Organização Internacional do Trabalho. Porém, apenas 3,3% do emprego global enfrenta a maior exposição. Historicamente, também, houve longos intervalos entre grandes inovações e ganhos reais de produtividade. O crescimento da produtividade durante a era digital foi menor do que após a Segunda Guerra Mundial. Então talvez o desastre não chegue tão rápido quanto alguns temem. Mas Vinod Khosla, investidor experiente em tecnologia, discorda: ele acredita que a IA fará 80% do trabalho economicamente valioso que os humanos fazem hoje, em 80% de todos os empregos, mais rápido do que a maioria acredita. A questão, para ele, não é se o desemprego em massa chegará na próxima década, mas se teremos uma estrutura política coerente pronta quando isso acontecer.
O ceticismo sobre a velocidade é justificado. Mas a preparação não pode esperar. A civilização pode não sobreviver aos choques existenciais e às disrupções econômicas que a IA ameaça. Então o que significa estar pronto? Primeiro, precisamos de responsabilização clara. As máquinas tomarão decisões importantes, em alguns casos com consequências enormes, especialmente em guerra e pesquisa biológica. Os humanos precisam ser responsabilizados por essas decisões: programadores, gestores das empresas que vendem IA, tomadores de decisão nas instituições que a usam. Proprietários, gestores e funcionários devem estar sujeitos a penalidades criminais e civis por danos causados pela IA. Não é aceitável deixar máquinas administrarem instituições sem que ninguém responda pelos resultados.
Segundo, não podemos confiar no senso moral dos criadores de IA. Já temos experiência terrível com redes sociais: disseminar mentiras e fraudes pode ser um bom negócio. Disseminar conteúdo que torna a vida das pessoas insuportável pode ser um bom negócio. A IA parece propensa a piorar a situação coletiva ao criar fraudes perfeitas de todos os tipos. A Anthropic pode querer desacelerar o ritmo, mas está em uma corrida e não pode controlar o que seus concorrentes fazem. Não permitimos que empresas farmacêuticas lancem medicamentos sem testes adequados. Algo semelhante deveria se aplicar a novos softwares de IA. E em um negócio competitivo, esses regimes precisam se aplicar globalmente.
Terceiro, por isso os regimes não podem ser apenas nacionais. Deve haver um acordo global sobre como a IA será testada, controlada e como a responsabilidade por danos será imposta. A União Europeia está desempenhando o papel de reguladora de primeira instância, e as pessoas ao redor do mundo confiam nela mais do que nos EUA ou na China, provavelmente porque acreditam que ela será menos capturada por interesses empresariais ou pelo desejo de usar IA como arma. Mas idealmente, China e EUA deveriam ser as pedras angulares de qualquer acordo. A IA é arriscada demais para que todos a desenvolvam sem controle.
Por fim, há uma boa chance de que a IA devaste o mercado de trabalho, aumente a desigualdade e crie uma concentração extraordinária de poder econômico e político nas mãos de um número ínfimo de empresas e pessoas. Somado às muitas outras ameaças que a tecnologia representa, isso cria um enorme risco de derrocada autocrática da democracia. Isso já está acontecendo. Aqueles que desejam ver a sobrevivência do governo do povo, para o povo e pelo povo devem tentar impedir isso. A implicação mais óbvia é que uma boa parte da renda e da riqueza aumentadas deve ser compartilhada. O momento de se preparar para isso é agora. Se não agirmos, será tarde demais.
Citas Notables
Se fosse possível desacelerar o desenvolvimento dessa tecnologia, para nos dar mais tempo para lidar com suas imensas implicações, achamos que isso provavelmente seria uma coisa boa— Anthropic
A questão não é se o desemprego em massa chegará na próxima década, mas se teremos uma estrutura política coerente pronta quando isso acontecer— Vinod Khosla
La Conversación del Hearth Otra perspectiva de la historia
Por que você acha que a regulação global é tão difícil se todos concordam que a IA é perigosa?
Porque ninguém quer ficar para trás. Se os EUA desaceleram e a China não, quem controla o futuro? É uma corrida onde parar significa perder.
Mas a Anthropic não quer desacelerar?
Quer, sim. Mas ela não controla o que a OpenAI, a Meta ou empresas chinesas fazem. Bom senso não é suficiente quando há dinheiro e poder em jogo.
Então você acha que a democracia está realmente em risco?
Não é achar. Se uma meia dúzia de empresas controla a IA, e a IA controla a economia e a política, quem governa? Não é o povo.
E a redistribuição de riqueza? Como isso funciona na prática?
Não sei. Mas se a IA gera riqueza extraordinária e apenas alguns ficam ricos, o resto fica pobre e sem poder. Isso não é sustentável em uma democracia.
Você acha que ainda há tempo?
Há tempo, mas não muito. Cada mês que passa, a tecnologia fica mais poderosa e mais difícil de controlar. O momento de agir é agora.