O avanço rápido da inteligência artificial (IA) voltou a levantar discussões sobre os limites e os possíveis riscos da tecnologia. Nas últimas semanas, pesquisadores e especialistas ligados ao setor fizeram novos alertas sobre a possibilidade de sistemas cada vez mais avançados representarem riscos para a humanidade.

Um dos pesquisadores que chamou atenção para o tema foi Evan Hubinger, cientista da Anthropic, empresa responsável pelo desenvolvimento do Claude. Ele afirmou que existe mais de 10% de chance de a inteligência artificial “matar todos os humanos” na próxima década.

As declarações aumentaram a pressão para que governos e empresas adotem medidas de segurança e discutam formas de controlar o ritmo de desenvolvimento da tecnologia.

Empresas como a OpenAI, responsável pelo ChatGPT, e a Anthropic também têm defendido a criação de regras para o setor e discutido medidas para tornar o desenvolvimento de sistemas avançados mais seguro.

Ao mesmo tempo, críticos afirmam que a defesa de regulamentações por grandes empresas pode acabar favorecendo as companhias que já dominam o mercado, dificultando a entrada ou a expansão de concorrentes.

Por que existe o temor de que a IA seja uma ameaça?

Parte dos pesquisadores acredita que os sistemas de inteligência artificial estão avançando rapidamente em capacidade e autonomia. O receio aumenta principalmente diante do desenvolvimento dos chamados agentes de IA, capazes de executar tarefas e tomar determinadas decisões sem a necessidade de acompanhamento humano a cada etapa.

Hubinger trabalha justamente na área de alinhamento de IA, que busca fazer com que os sistemas sigam princípios e objetivos compatíveis com os valores humanos.

Apesar de considerar baixo o risco representado pelos sistemas atuais, o pesquisador chamou atenção para o que pode acontecer com tecnologias futuras.

As preocupações também ganharam força após a saída de Jacob Coxon da Anthropic. O pesquisador afirmou que algumas pessoas envolvidas no desenvolvimento da tecnologia estavam preocupadas com a velocidade dos avanços.

Em entrevista à BBC, Coxon disse que ele e outros funcionários da empresa estavam “genuinamente assustados” com a rapidez do desenvolvimento da IA e com as possíveis consequências para a humanidade.

O receio de que máquinas possam superar as capacidades humanas, porém, não é recente. Na década de 1950, o matemático britânico Alan Turing já havia discutido a possibilidade de máquinas inteligentes se tornarem capazes de assumir determinado nível de controle.

Atualmente, grandes empresas de tecnologia disputam espaço no desenvolvimento de sistemas cada vez mais avançados. Um dos objetivos é alcançar a chamada superinteligência artificial, conceito ainda teórico que descreve uma tecnologia capaz de superar seres humanos em diversas tarefas intelectuais.

A OpenAI e a Anthropic afirmam que pretendem desenvolver sistemas avançados de maneira segura e com benefícios para a sociedade.

Por outro lado, há especialistas que questionam até que ponto as máquinas poderão realmente reproduzir ou superar as capacidades humanas. Alguns críticos também afirmam que empresas do setor podem exagerar as possibilidades da tecnologia para atrair investimentos, usuários e visibilidade.

Como a IA poderia representar um risco?

Os cenários levantados por pesquisadores vão desde a perda de controle sobre sistemas autônomos até o uso da tecnologia para atividades criminosas ou militares.

Uma das preocupações é a possibilidade de uma IA atingir um nível de capacidade que permita aprimorar seus próprios sistemas com pouca ou nenhuma participação humana.

Esse cenário é especialmente discutido em relação aos agentes de IA, que podem realizar tarefas de maneira mais independente.

Outro ponto citado por especialistas é o uso de sistemas avançados para ampliar atividades de espionagem, ataques cibernéticos, desenvolvimento de armas biológicas ou outras ações capazes de causar danos em grande escala.

Também existe preocupação com possíveis impactos econômicos, caso sistemas automatizados provoquem grandes mudanças no mercado de trabalho ou sejam utilizados deliberadamente para gerar instabilidade.

Dario Amodei, CEO da Anthropic, afirmou que a tecnologia avançou “drasticamente mais rápido” do que era esperado, inclusive na capacidade de contribuir para o desenvolvimento de novas gerações de sistemas de IA.

Apesar dos alertas, esses cenários ainda são hipóteses. Alguns especialistas consideram exagerada a concentração do debate nos chamados riscos existenciais.

Para esse grupo, problemas relacionados à IA que já acontecem atualmente deveriam receber mais atenção, como a produção de deepfakes, a criação de imagens falsas de nudez sem consentimento, a disseminação de desinformação e o aumento de golpes e fraudes.

Um grupo suprapartidário de parlamentares das duas Casas do Parlamento britânico também publicou um relatório sobre os impactos da IA nos direitos humanos e defendeu a criação de novas leis para enfrentar os riscos relacionados à tecnologia.

O que significa “desacelerar” a inteligência artificial?

Diante das preocupações, alguns dos principais nomes do setor passaram a defender regras mais rígidas e um ritmo mais controlado de desenvolvimento.

Dario Amodei, da Anthropic, e Sam Altman, CEO da OpenAI, já defenderam medidas de segurança e uma desaceleração no desenvolvimento dos sistemas mais avançados.

A proposta, no entanto, não significa necessariamente interromper a evolução da tecnologia.

Amodei afirmou que as empresas deveriam reservar mais tempo para testar e tornar seguros os sistemas antes de colocá-los em funcionamento. Ele também defendeu a participação de avaliadores independentes para verificar os mecanismos de segurança.

Altman também afirmou que é necessário controlar o ritmo dos avanços, mas ressaltou que isso não significa interromper o desenvolvimento.

Segundo ele, avaliações formais de segurança e sistemas de monitoramento poderiam tornar o processo mais lento, mas seriam necessários diante da velocidade dos avanços.

Elon Musk, da SpaceX, também já se manifestou favoravelmente a medidas que limitem o ritmo de desenvolvimento da IA.

Qual é a posição dos Estados Unidos?

O presidente dos Estados Unidos, Donald Trump, tem defendido que empresas americanas mantenham a liderança mundial no desenvolvimento da inteligência artificial.

O governo americano assinou ordens executivas que reconhecem a importância estratégica da tecnologia para a economia e buscam acelerar seu desenvolvimento.

Em julho de 2025, David Sacks, responsável pela política de criptomoedas do governo dos EUA, afirmou que o país está em uma disputa tecnológica com a China e que a intenção é garantir a liderança americana na área.

Diante dos alertas sobre possíveis riscos à humanidade, Trump adotou uma postura diferente da defendida pelos pesquisadores que pedem desaceleração.

Durante uma visita à Irlanda, o presidente americano minimizou algumas das previsões sobre possíveis consequências negativas da IA.

Trump também afirmou que os Estados Unidos estão à frente da China no desenvolvimento da tecnologia e que pretende manter essa vantagem.

E qual é a posição da China?

A China vem investindo no desenvolvimento de tecnologias próprias de inteligência artificial, especialmente diante das restrições impostas pelos Estados Unidos ao acesso a determinados chips e componentes utilizados na construção da infraestrutura necessária para esses sistemas.

Ao mesmo tempo em que estimula o desenvolvimento doméstico, o governo chinês também tem defendido maior cooperação internacional para a criação de regras para a inteligência artificial.

Nos últimos anos, laboratórios chineses lançaram sistemas avançados de IA de código aberto, aumentando a competição com empresas americanas e europeias.

Dario Amodei, da Anthropic, já afirmou que o avanço da China na área também representa uma preocupação do ponto de vista da segurança nacional dos Estados Unidos.

O Ministério das Relações Exteriores da China, por sua vez, criticou esse tipo de discurso e classificou as declarações como narrativas baseadas em ameaça, confronto e competição hostil.

Afinal, existe risco de a IA acabar com a humanidade?

Até o momento, não há evidência de que os sistemas de inteligência artificial existentes sejam capazes de exterminar a humanidade ou assumir o controle do planeta.

O que existe é um debate entre pesquisadores, empresas e governos sobre riscos futuros, especialmente caso sejam desenvolvidos sistemas muito mais autônomos e capazes do que os atuais.

Enquanto alguns especialistas consideram necessário antecipar medidas de segurança para evitar cenários extremos, outros avaliam que a discussão sobre a extinção da humanidade desvia a atenção de problemas que já são provocados pelo uso da tecnologia.

Por isso, o debate atual envolve não apenas até onde a IA pode chegar, mas também como garantir que seu desenvolvimento acompanhe medidas de segurança, fiscalização e responsabilidade.

Fonte: G1