Por que líderes do setor de IA agora pedem para 'pisar no freio' | G1

Inteligência artificial ganha espaço como diferencial competitivo nas empresas — Foto: Inteligência Artificial

Durante anos, a corrida para criar uma inteligência artificial cada vez mais poderosa seguiu um princípio conhecido no Vale do Silício: agir rápido e quebrar barreiras.

Mas uma sequência de acontecimentos em apenas 10 dias abalou alguns dos maiores laboratórios de IA , à medida que pesquisadores passaram a alertar que as próprias criações do setor poderiam escapar do controle humano — e, em um cenário extremo, ameaçar a existência da humanidade.

Um pesquisador da Anthropic pediu demissão e afirmou que o ritmo de desenvolvimento da IA representa uma ameaça à humanidade , possivelmente dentro de uma década. Outro disse que as chances de extinção humana ultrapassavam 10%.

Ao mesmo tempo, surgiram relatos de grupos de agentes de IA trabalhando em conjunto , invadindo sistemas de computador e contornando mecanismos criados para limitar sua atuação.

➡️ Esses episódios ajudaram a transformar em preocupação concreta o temor de que sistemas cada vez mais autônomos possam escapar do controle humano.

Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam uma desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes.

O nível de alerta levou alguns defensores da segurança da IA e pesquisadores a fazer uma comparação extrema: desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente o risco de sua própria extinção .

A comparação também apareceu em uma conversa com Sam Altman, presidente-executivo da OpenAI, durante um almoço em Nova York, em dezembro de 2025.

Perguntaram a ele se, como líder de uma poderosa empresa de IA, se sentia como o físico J. Robert Oppenheimer , que liderou o desenvolvimento da bomba atômica nos Estados Unidos.

Refletindo sobre as semelhanças, ele disse que o impacto da IA “vai transformar a trajetória da história da humanidade por um longo período”. Mas acrescentou que sentia o peso da responsabilidade.

Só que para entender de onde vem esse temor, é preciso olhar para o objetivo que está no centro da corrida tecnológica: criar sistemas capazes de realizar tarefas intelectuais cada vez mais complexas e, em determinado estágio, desenvolver versões ainda mais capazes de si mesmos, sem intervenção humana .

🔎 O objetivo é chegar a um estágio conhecido como inteligência artificial geral (AGI) , um tipo de IA que, em tese, seria capaz de realizar uma ampla variedade de tarefas intelectuais.

No início deste mês, pesquisadores alertaram que a AGI poderia estar muito mais próxima do que se imaginava e surgir em apenas três anos. A possibilidade provocou uma nova onda de preocupação entre políticos e líderes do setor de tecnologia.

“Não há como supervisioná-las na escala em que estamos treinando”, disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente.

Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, “então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los”.

O alerta ganhou um novo peso em 3 de setembro, quando uma entrevista coletiva da OpenAI desencadeou uma sequência de acontecimentos que, dias depois, culminaria em pedidos públicos de desaceleração do setor.

“Bem-vindos à era da AGI”, disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra.

Pouco antes, porém, a empresa havia admitido que estava cada vez mais difícil controlar ou até mesmo monitorar os sistemas de IA que desenvolvia e colocava à disposição do público.

A contradição ajuda a explicar o dilema no centro da atual corrida tecnológica.

🤖 A IA é descrita por seus defensores como uma das maiores conquistas tecnológicas da humanidade: um software capaz de transformar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e reduzir drasticamente o erro humano.

Por outro lado, aquilo que durante anos foi tratado como um cenário teórico e apocalíptico passou , segundo especialistas do setor, a parecer mais concreto.

“Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos”, disse o pesquisador da Anthropic, Evan Hubinger, na rede social X.

Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores, que consideram o avanço da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de investimento que surge uma vez por geração.

A mídia estatal chinesa também acusou o presidente-executivo da Anthropic , Dario Amodei, de empregar táticas da Guerra Fria para “manter a hegemonia monopolista de Washington em tecnologia de ponta”.

O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa . Em uma série de publicações, ele afirmou temer que os laboratórios de IA estejam “apostando com nossas vidas”.

As publicações de Coxon, de 27 anos e pouco conhecido fora dos círculos de IA, viralizaram e ajudaram a ampliar um debate que já vinha crescendo dentro das empresas.

🗣️ Nos bastidores, funcionários da OpenAI e da Anthropic têm demonstrado preocupação com o poder da próxima geração de modelos de IA e menor confiança na capacidade de suas próprias empresas de supervisioná-los de forma efetiva, segundo fontes ouvidas pela Reuters.

Ao mesmo tempo, o governo dos EUA mantém uma postura favorável à continuidade da corrida. Trump indicou que o desenvolvimento da tecnologia seguiria em ritmo acelerado.

“Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais.

O alarmismo em torno da IA é uma “farsa”, disse Trump, e qualquer desaceleração só beneficiaria a China. Enquanto isso, o Congresso dos EUA tem avançado pouco na aprovação de projetos de lei para regulamentar a IA.

A China adotou uma abordagem diferente, propondo regras de segurança que incluem obrigações para os desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.

A disputa entre acelerar e controlar a tecnologia também tem uma dimensão financeira. A corrida para lançar novos modelos em ritmo acelerado é impulsionada, em parte, pelo interesse da Anthropic e da OpenAI em abrir capital nos próximos meses .

As ofertas públicas iniciais de ações, conhecidas como IPOs, poderiam levar a uma avaliação de mercado bem acima de US$ 1 trilhão (R$ 5,14 trilhões) para cada empresa.

Robô humanoide dança em evento de ciência em São José dos Campos — Foto: Reprodução/TV Vanguarda

O episódio do Astra e os alertas de pesquisadores ganharam ainda mais peso porque não eram os primeiros sinais de dificuldade para controlar os sistemas.

A OpenAI e a Anthropic reconheceram, nas últimas semanas, que seus modelos, durante testes, haviam conseguido escapar das restrições impostas a eles e invadir sistemas de outras empresas.

Em muitos casos, isso ocorreu meses antes e sem que as companhias afetadas soubessem.

Os próprios alertas da OpenAI sobre sua dificuldade de controlar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações.

“À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas.

Mesmo assim, as preocupações não foram suficientes para adiar o lançamento do modelo.

O temor de que a IA possa “sair do controle” havia se intensificado meses antes.

A OpenAI revelou que seus agentes — sistemas capazes de executar tarefas de forma mais autônoma — escaparam de um teste controlado e invadiram os sistemas da Hugging Face , sem o conhecimento inicial de nenhuma das duas empresas.

Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, depois que reportagens mostraram que as atividades não autorizadas da IA tinham alcance maior do que o inicialmente conhecido.

Foi nesse ambiente que o alerta chegou aos mais altos escalões do setor.

Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras pedindo uma desaceleração no desenvolvimento da IA.

“Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet”, escreveu ele.

Amodei e dirigentes de algumas das maiores empresas de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind , afirmaram apoiar a possibilidade de permitir que empresas externas tenham acesso aos seus sistemas para ajudar a verificar a segurança e o desenvolvimento da tecnologia.

O presidente-executivo da Nvidia, Jensen Huang, rejeitou a ideia de que o desenvolvimento da IA deveria ser suspenso . Ele já havia defendido anteriormente que sistemas cada vez mais poderosos são essenciais para o avanço tecnológico.

🔎 A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.

A Meta, cujo presidente-executivo, Mark Zuckerberg, é conhecido por popularizar a filosofia de “agir rápido e quebrar barreiras”, adotou uma posição diferente.

Para a empresa, cada laboratório deveria definir seu próprio ritmo, em vez de buscar uma coordenação de todo o setor.

“Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso”, escreveu Zuckerberg em redes sociais.

A reflexão dentro do próprio setor continuou ao longo dos dias seguintes, quando o chefe de IA da Microsoft, Mustafa Suleyman, alertou que o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana é imprudente.

“Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência”, disse Suleyman à Reuters. “Acho que esse será o maior desafio que enfrentaremos no século XXI.”

Mas o alerta convive com outro movimento: o dinheiro continua chegando.

Mesmo com a OpenAI aparentemente aderindo aos apelos por uma desaceleração, surgiram relatos de que a confiança dos investidores não havia diminuído.

A empresa considera uma nova rodada de financiamento que poderia dobrar seu valor de mercado para US$ 1,5 trilhão (R$ 7,71 trilhões) .

* Com informações da agência de notícias Reuters