Uma das maiores apostas da inteligência artificial — de que os modelos eventualmente se aprimorariam sozinhos — deixou de ser teoria distante para preocupação imediata dentro das próprias empresas que desenvolvem IA.

Pesquisadores da Anthropic e da OpenAI estão emitindo alertas públicos sobre o risco IA auto-aperfeiçoamento recursivo (RSI, na sigla em inglês), afirmando que o processo está avançando muito mais rapidamente do que qualquer projeção interna — e que não existe, até agora, um plano científico viável para mantê-lo sob controle.

O que é auto-aperfeiçoamento recursivo e por que assusta

O auto-aperfeiçoamento recursivo descreve um ciclo de feedback: uma IA mais capaz cria iterações melhores de si mesma, que por sua vez criam versões ainda mais capazes — potencialmente em velocidade que humanos não conseguiriam acompanhar.

A Anthropic reconheceu publicamente, em junho de 2026, que o Claude já está "acelerando o desenvolvimento da IA" — uma possível rota para o RSI. "Está acontecendo mais rápido do que pensávamos, e as implicações merecem maior atenção", disse a empresa. Evan Hubinger, líder de alinhamento da Anthropic, foi ainda mais direto: estimou mais de 10% de chance de que a IA mate todos os humanos na próxima década.

Esse número — alto até nos círculos técnicos de segurança de IA — ganhou enorme atenção depois que Jacob Coxon, pesquisador de 27 anos que treinou modelos de grande escala tanto na OpenAI quanto na Anthropic, deixou a empresa e acusou as labs de "apostar com nossas vidas". Seu post gerou 110 milhões de visualizações no X em poucos dias.

Por que isso importa para o seu negócio

Para quem usa IA no dia a dia da empresa, o debate sobre risco IA auto-aperfeiçoamento recursivo tem consequências práticas:

  • Velocidade de mudança acelerada: se a IA está ajudando a criar versões mais capazes de si mesma, as ferramentas que você usa hoje podem mudar radicalmente em meses — não anos.
  • Imprevisibilidade em produção: modelos que se aprimoram continuamente podem ter comportamentos inesperados em workflows automatizados.
  • Regulação vindo aí: pressão por desaceleração pode resultar em leis que afetam acesso e custo de APIs de IA nos próximos 12 a 24 meses.
  • Diversificação como estratégia: quanto mais cedo sua empresa criar dependências críticas em um único modelo, maior o risco se ele mudar drasticamente.

O que pesquisadores de dentro das labs estão dizendo

A mobilização em torno do risco IA auto-aperfeiçoamento recursivo é mais ampla do que um pesquisador isolado. Mais de 10 pesquisadores de Anthropic e OpenAI já assinaram chamados públicos por desaceleração. Entre as vozes:

  • Julie Steele (OpenAI safety team): "precisamos desacelerar"
  • Samuel Marks (Anthropic): risco de extinção pode ocorrer dentro de anos, não décadas
  • Anna Wang (Anthropic): "não há plano científico viável para resolver os riscos do RSI. Por favor, acordem!"
  • Jakub Pachocki (cientista-chefe da OpenAI): "este é um momento que exige cautela extrema"

Em julho de 2026, cerca de 1.400 pesquisadores de IA assinaram uma carta aberta ao governo dos Estados Unidos pedindo regulação do ritmo de desenvolvimento. Trump descartou os riscos publicamente, criando uma fissura política que complica qualquer resposta coordenada.

Por que não há plano científico de controle

O ponto mais grave dos alertas sobre risco IA auto-aperfeiçoamento recursivo não é o percentual de chance — é a ausência de solução comprovada. As equipes de segurança que deveriam garantir que os modelos não fujam ao controle humano ainda não têm as ferramentas para fazer esse trabalho com confiança.

Enquanto a corrida por GPT-7, Claude 5 e seus sucessores continua acelerada, o campo de alinhamento ainda não tem uma abordagem validada para garantir que sistemas com capacidade de auto-aperfeiçoamento permaneçam seguros e controláveis. Acompanhe os desdobramentos na CNBC.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: CNBC