Num tempo em que os drones já transformaram a guerra na Ucrânia, a questão de saber quem decide sobre a vida e a morte começa a ganhar uma urgência nova. Em 2024, em West Point, Elon Musk comparou a construção de drones militares guiados por inteligência artificial à criação de exterminadores, e dois anos depois voltou a alinhar-se com os alertas sobre os riscos da superinteligência. Agora, convidado pelo Pentágono para o Projeto Meridian, uma equipa que reflete sobre a fusão de algoritmos com armas autónomas, fica por saber se a voz de quem avisou pesará na definição do lugar que o controlo h
Drones com inteligência artificial: quando a máquina pode decidir quem vive e quem morre
Ao construirmos drones militares, estamos a produzir exterminadores
Mark
Porque é que esta história merece atenção? Musk já tinha dito coisas parecidas.
Mimi
Porque o que mudou foi a posição dele. Em 2024 avisava de fora, em West Point. Agora foi convidado por Pete Hegseth para o Projeto Meridian, que vai pensar o futuro da guerra por dentro.
Mark
E o que é esse projeto, exatamente?
Mimi
Uma equipa que reflete sobre a fusão de algoritmos com armas autónomas. O risco que o texto aponta é serem as máquinas a decidir sobre a vida e a morte.
Luke
Convém separar duas coisas. O convite a Musk está afirmado. Mas o que o Meridian vai concluir, quem mais o integra, que poder tem, nada disso consta aqui.
Mark
E o cenário do «Exterminador»?
Mimi
É a imagem que Musk usou em 2024 e que o texto retoma como alerta.
Luke
Exatamente: é uma metáfora, não um facto. O texto é uma análise, e não mostra que exista hoje um sistema que decida matar sozinho.
Mark
Há algo que o contraste revela?
Mimi
Que alguém pode defender que se minimize o risco e, ao mesmo tempo, sentar-se à mesa onde se constrói o futuro dessas armas.
Luke
Mas não sabemos se isso é contradição ou influência. O texto limita-se a registar os dois factos lado a lado.
Le Pouls
- Em West Point, Musk afirmou que construir drones militares com IA é produzir exterminadores, e a frase ecoou como um aviso sem resposta imediata.
- A guerra na Ucrânia tornou os drones presença constante na frente, e cada avanço reforça o receio de que a decisão letal escape às mãos humanas.
- O convite de Pete Hegseth para o Projeto Meridian cria um contraste tenso entre os avisos públicos de Musk e a sua entrada numa equipa que estuda armas autónomas.
- O Projeto Meridian ainda não apresentou conclusões, e a questão central em aberto é se o controlo humano sobre decisões letais sairá reforçado ou diluído.
Num tempo em que os drones já transformaram a guerra na Ucrânia, a questão de saber quem decide sobre a vida e a morte começa a ganhar uma urgência nova. Em 2024, em West Point, Elon Musk comparou a construção de drones militares guiados por inteligência artificial à criação de exterminadores, e dois anos depois voltou a alinhar-se com os alertas sobre os riscos da superinteligência. Agora, convidado pelo Pentágono para o Projeto Meridian, uma equipa que reflete sobre a fusão de algoritmos com armas autónomas, fica por saber se a voz de quem avisou pesará na definição do lugar que o controlo humano terá na guerra futura.
Em agosto de 2024, numa sala da academia militar de West Point, Elon Musk fez uma pergunta que soava a previsão: se a inteligência artificial se juntar aos drones, o caminho conduz ao «Exterminador»? O empresário respondeu sem rodeios que o risco deve ser evitado, porque construir drones militares com IA é, nas suas palavras, produzir exterminadores.
Desde então, a guerra na Ucrânia transformou os drones numa presença central no campo de batalha, o que dá outro peso àquele aviso. O receio de fundo é que, além de mudar a guerra, as armas autónomas passem a ser as máquinas, e não as pessoas, a decidir sobre a vida e a morte.
Dois anos depois, Musk subscreveu os avisos de Dario Amodei, da Anthropic, sobre os riscos existenciais da superinteligência, alinhando-se com um concorrente direto. Ainda assim, há cerca de um mês foi convidado pelo secretário da Defesa, Pete Hegseth, para integrar o Projeto Meridian, uma equipa que vai refletir sobre o futuro da guerra e sobre a fusão de algoritmos com armas autónomas.
As conclusões do Projeto Meridian ainda não são conhecidas. A questão que fica é que lugar terá o controlo humano sobre as decisões letais e que peso terá, nessa reflexão, a voz de quem, há dois anos, avisava contra aquilo que agora ajuda a discutir.
Em agosto de 2024, numa sala da academia militar de West Point, onde se formam os oficiais do exército dos Estados Unidos, Elon Musk fez uma pergunta que era também uma previsão: se o caminho passa por combinar inteligência artificial e drones, será que ele conduz ao «Exterminador»?
O empresário não deixou a dúvida em suspenso. Defendeu que o risco deve ser evitado e minimizado, porque, ao construir drones militares, o que se está a produzir, disse, são exterminadores. A referência é ao universo cinematográfico de «O Exterminador Implacável», e o tom, nas palavras do texto do Expresso, foi dramático.
Nessa altura, os robôs ainda não dominavam as estepes ucranianas como hoje. A guerra na Ucrânia transformou entretanto os drones numa presença central da frente de combate, o que dá outro peso às palavras que Musk pronunciou em West Point. A tese de fundo da análise é que os drones mudaram para sempre o campo de batalha, mas que as armas autónomas guiadas por IA trazem um risco de outra ordem: o de serem as máquinas, e não as pessoas, a decidir sobre a vida e a morte.
Musk, um dos maiores investidores globais em inteligência artificial, não ficou por aí. Dois anos depois daquele discurso, subscreveu os avisos do seu rival Dario Amodei, da Anthropic, sobre os riscos existenciais da superinteligência. Ou seja, a preocupação que expressou em 2024 acompanhou-o até 2026, e passou a alinhar-se com a de um concorrente direto.
Há, porém, um contraste que o texto sublinha. Apesar destas posições públicas, o líder da SpaceX foi convidado, há cerca de um mês, pelo secretário da Defesa norte-americano, Pete Hegseth, para integrar o Projeto Meridian. Trata-se de uma equipa que vai refletir sobre o futuro da guerra, e a expressão usada para o descrever é uma fusão de algoritmos com armas autónomas.
É nessa fusão que reside o risco apontado: que sejam máquinas a decidir sobre a vida e a morte de seres humanos. O texto apresenta isto como análise, não como relato de um facto consumado, e o cenário do «Exterminador» é uma imagem de alerta, não uma descrição do que existe hoje.
O que se segue é o trabalho do Projeto Meridian, cujas conclusões ainda não são conhecidas. A questão a acompanhar é saber que lugar essa reflexão dará ao controlo humano sobre as decisões letais, e que peso terá nela a voz de alguém que, há dois anos, avisava contra aquilo que agora ajuda a discutir.
Citations marquantes
Devemos minimizar o risco do «Exterminador», pois, ao construirmos drones militares, estamos a produzir exterminadores.— Elon Musk, em West Point, agosto de 2024
Envie de l'histoire complète ?
Lire l'original sur Expresso ↗