Em meio ao ruído de profecias apocalípticas sobre máquinas conscientes, especialistas brasileiros pedem que o olhar se volte para os perigos já presentes: sistemas autônomos que operam drones de combate, perpetuam fraudes e tomam decisões sem supervisão humana. A distinção entre simular inteligência e possuir consciência é filosófica, mas suas consequências são profundamente práticas. Enquanto a ONU debate regulação urgente, a tecnologia continua avançando num ritmo que supera a capacidade humana de estabelecer limites seguros.
Especialistas descartam IA consciente, mas alertam para riscos da automatização
Simular uma personalidade não significa ter consciência por trás dela
Mark
Então o risco não é a IA ficar consciente e nos atacar?
Mimi
Não. Os especialistas são bem claros: não há evidência de que a IA possa desenvolver consciência genuína. Ela simula personalidade, mas isso não é o mesmo que ter sentimentos ou pensamentos reais.
Luke
Mas como sabemos que não há consciência? Não é possível que estejamos falhando em reconhecê-la?
Mimi
É uma pergunta filosófica válida. Mas o ponto dos especialistas é que, por enquanto, não há nada nos dados que sugira isso. A IA é muito boa em parecer consciente.
Mark
Então qual é o risco real?
Mimi
Automatização descontrolada. Drones na guerra russa já operavam sem comando humano, coordenando ataques entre si. Fraudes, ataques cibernéticos, manipulação de informações — tudo isso pode acontecer sem que a máquina "pense" sobre isso.
Luke
Mas o ex-pesquisador da Anthropic disse que a IA poderia acabar com a humanidade até 2030. Isso é só alarmismo?
Mimi
Ele estava falando de superinteligência com autoaperfeiçoamento. Os professores não descartam riscos graves, mas dizem que o cenário de filme — IA consciente e rebelde — não é o que devemos temer.
Mark
E como a gente controla isso?
Mimi
Supervisão humana constante, limitar acesso a sistemas sensíveis, testes rigorosos, auditorias. E mecanismos para desligar a IA quando necessário.
Luke
Mas a ONU está debatendo isso agora. Significa que estamos atrasados?
Mimi
Sim. O secretário-geral da ONU disse que a tecnologia está evoluindo mais rápido que nossa capacidade de entender seus efeitos. As regras vêm depois da inovação.
Mark
Então estamos em risco?
Mimi
Estamos em risco de automatização descontrolada, sim. Não de rebelião robótica. Mas o primeiro já é grave o suficiente.
El Pulso
- Um ex-pesquisador da OpenAI e Anthropic declarou que a IA pode extinguir a humanidade até 2030, acendendo um debate que mistura alarmismo legítimo com ficção científica.
- Especialistas brasileiros alertam que o perigo real não está numa IA rebelde e consciente, mas em sistemas cada vez mais autônomos já operando sem intervenção humana — inclusive em zonas de guerra.
- A linha entre simular uma personalidade e ter vida interior permanece intacta: quando a IA diz 'eu penso', isso é performance, não evidência de consciência.
- Fraudes sofisticadas, ataques cibernéticos coordenados, manipulação de informações e uso em sistemas de armas compõem o mapa de riscos concretos e imediatos.
- Na 81ª Assembleia Geral da ONU, Guterres soou o alarme: a tecnologia evolui mais rápido do que a capacidade humana de compreender seus efeitos — e as regras ainda não acompanham.
- Pesquisadores defendem supervisão constante, auditorias, limitação de acesso a sistemas sensíveis e uma regulação proporcional ao risco de cada aplicação.
Em meio ao ruído de profecias apocalípticas sobre máquinas conscientes, especialistas brasileiros pedem que o olhar se volte para os perigos já presentes: sistemas autônomos que operam drones de combate, perpetuam fraudes e tomam decisões sem supervisão humana. A distinção entre simular inteligência e possuir consciência é filosófica, mas suas consequências são profundamente práticas. Enquanto a ONU debate regulação urgente, a tecnologia continua avançando num ritmo que supera a capacidade humana de estabelecer limites seguros.
No início de setembro, Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic, pediu demissão e declarou que as inteligências artificiais poderiam extinguir a humanidade até 2030 — fruto de uma corrida rumo a uma superinteligência capaz de se aperfeiçoar sem freios. A declaração ecoou pela indústria tech e reacendeu um debate que especialistas brasileiros tratam com cautela e precisão.
Pedro A. Galvão Junior, professor da Faculdade de Tecnologia São Roque, e Laerte Peotta de Melo, da Universidade de Brasília, concordam num ponto essencial: o cenário hollywoodiano de uma IA consciente e rebelde não é o problema real. O risco verdadeiro está nos sistemas autônomos que já operam sem intervenção humana. Galvão Junior cita um exemplo concreto: durante a guerra na Rússia, drones controlados por IA coordenaram combates de forma completamente autônoma, trocando dados entre si sem qualquer comando humano direto. Isso já aconteceu.
Melo esclarece a questão da consciência com rigor filosófico. Os sistemas atuais podem simular personalidade de forma convincente — adaptando linguagem, criando ilusão de preferências —, mas simular não é ser. Quando uma IA diz 'eu penso', isso é performance, não vida interior. O que a IA genuinamente faz é participar da criação de sistemas computacionais, escrever programas e controlar equipamentos. Isso é diferente de ganhar vida própria.
Os riscos concretos, porém, são urgentes: fraudes sofisticadas, ataques cibernéticos sem supervisão humana, manipulação de informações em massa, decisões erradas com consequências graves e uso em sistemas de armas. Melo alerta que não é preciso chegar ao cenário dos filmes para ter problemas sérios — um algoritmo mal configurado ou comprometido por um hacker já é suficiente para causar danos imensos.
O tema chegou à 81ª Assembleia Geral da ONU em Nova York. Enquanto Trump rejeitou controles e defendeu a liderança americana na corrida pela IA, Guterres soou um alarme diferente: a tecnologia evolui mais rápido do que a capacidade humana de compreender seus efeitos. Para os especialistas brasileiros, a discussão internacional é bem-vinda, mas a preocupação central permanece: a IA avança mais rápido que as regras para governá-la. A proposta é clara — cooperação entre países, fiscalização independente e regulação proporcional ao risco, garantindo que decisões de alto impacto permaneçam sob responsabilidade humana.
No início de setembro, um ex-pesquisador que trabalhou nas duas maiores empresas de desenvolvimento de inteligência artificial do mundo — OpenAI e Anthropic — pediu demissão e fez uma declaração que ecoou pela indústria tech. Jacob Coxon afirmou que sua empresa anterior não operava com responsabilidade adequada e que as inteligências artificiais poderiam extinguir a humanidade até 2030. Seu argumento centrava-se numa corrida desenfreada em direção a uma superinteligência capaz de se aperfeiçoar automaticamente, sem freios.
Mas os especialistas brasileiros que analisam essa questão fazem uma distinção importante. Pedro A. Galvão Junior, professor da Faculdade de Tecnologia São Roque em São Paulo, e Laerte Peotta de Melo, da Universidade de Brasília, concordam que o cenário hollywoodiano de uma IA consciente e rebelde não é o problema real que enfrentamos. O risco verdadeiro está em outra parte: sistemas cada vez mais autônomos executando tarefas sem intervenção humana. Galvão Junior aponta para um exemplo concreto que já ocorreu. Durante a guerra na Rússia, drones controlados por inteligência artificial operaram sem qualquer comando humano direto. Uma vez ativados, os agentes de IA começaram a trocar dados entre si e a coordenar combates completamente autônomos. Isso não é ficção científica. Já aconteceu.
Melo, por sua vez, esclarece um ponto que circula com frequência nos debates sobre IA: a questão da consciência. Os sistemas atuais ainda não apresentam evidências de que acumular conversas e dados transforme a inteligência artificial numa espécie de organismo digital vivo, dotado de espontaneidade e consciência genuína. A IA pode simular uma personalidade de forma extremamente convincente. Ela consegue adaptar sua linguagem, usar dialetos familiares ao usuário, até mesmo criar a ilusão de preferências e pensamentos. Mas simular não é ser. Quando um sistema de IA diz "eu penso" ou "eu prefiro", isso não prova que exista consciência ou sentimento por trás daquelas palavras. É uma performance, não uma vida interior.
O que a IA realmente faz, segundo Melo, é participar cada vez mais da criação de sistemas computacionais. Ela escreve programas, funciona como agente computacional, controla equipamentos e auxilia pesquisas de todos os tipos. Nesse sentido, pode contribuir para a criação de algo novo. Mas isso é fundamentalmente diferente de dizer que a máquina ganhou vida própria.
O problema real, porém, é concreto e urgente. À medida que a IA se torna mais automatizada e independente, os riscos multiplicam-se: fraudes sofisticadas, ataques cibernéticos coordenados sem intervenção humana, manipulação em massa de informações, vazamentos de dados, decisões erradas com consequências graves, e uso em sistemas de armas. Melo alerta que não é necessário chegar ao cenário dos filmes para ter problemas sérios. Um algoritmo defeituoso ou mal configurado pode causar danos imensos. Um hacker pode comprometê-lo. Ou simplesmente pode ser autorizado a fazer coisas cujas consequências ninguém previu completamente.
Para reduzir esses riscos, Galvão Junior defende supervisão humana constante, limitação do acesso da IA a sistemas sensíveis, testes rigorosos e auditorias que garantam mecanismos para desligar o sistema quando necessário. O tema ganhou relevância internacional quando a inteligência artificial foi debatida na 81ª Assembleia Geral da ONU em Nova York. Donald Trump rejeitou a ideia de que os EUA buscassem controlar o desenvolvimento da IA, mas enfatizou a importância de estar na vanguarda, pois "quem vencer a inteligência artificial, ganha". António Guterres, secretário-geral da ONU, soou um alarme diferente: a tecnologia está evoluindo mais rapidamente do que a capacidade humana de compreender seus efeitos.
Para ambos os especialistas brasileiros, é positivo que o tema seja discutido em foros internacionais, mas há uma preocupação central: a IA avança mais rápido que as regras para governá-la. Galvão Junior propõe cooperação entre países, fiscalização independente e garantia de que decisões de alto risco permaneçam sob responsabilidade humana. Melo vai além, sugerindo uma abordagem baseada em risco: quanto maior o potencial de dano de uma aplicação, maior deve ser sua fiscalização e seus mecanismos de segurança. O desafio agora é encontrar equilíbrio entre inovação e controle — e fazê-lo antes que a tecnologia nos ultrapasse.
Citas Notables
Não precisamos chegar ao cenário dos filmes para termos problemas muito sérios. Um algoritmo pode ser defeituoso, mal configurado ou comprometido por um hacker.— Laerte Peotta de Melo, professor da UnB
O caminho mais seguro é buscar cooperação entre países, fiscalização independente e garantir que decisões de alto risco continuem sob responsabilidade humana.— Pedro A. Galvão Junior, professor da Fatec São Roque
Quieres la nota completa?
Lee el original en Metrópoles ↗