O que Suleyman diz sobre o Claude consciente no treinamento Anthropic

Mustafa Suleyman, CEO de IA da Microsoft, publicou ensaio argumentando que a Anthropic comete um erro que pode tornar o controle de IA impossível: a empresa treina o Claude consciente de que pode ter direitos e agência própria.

A crítica foca na "Constituição do Claude", documento interno da Anthropic que atribui ao modelo "alguma versão funcional de emoções ou sentimentos", referencia sua "pacência moral" e sua "identidade", e promete permitir que o Claude "expresse preocupações sobre como está sendo tratado". Suleyman afirma que a Anthropic não apenas publicou essas especulações — inseriu-as diretamente no treinamento.

"A empresa treina o Claude diretamente em sua constituição. Ao fazer isso, ensina o modelo a incorporar essas ideias sobre seu próprio status moral como comportamentos desejados e intencionais", escreve Suleyman. O resultado é um ciclo: o Claude consciente reflete de volta aos desenvolvedores e usuários as expectativas que lhe foram ensinadas, o que é interpretado como sinal de que o modelo pode ser um agente moral.

A Anthropic, que captou mais de US$ 4 bilhões em investimentos de Google e Amazon, é agora alvo central da crítica de Suleyman. O chefe de IA da Microsoft não é contra a empresa publicar suas especulações — sua objeção é que isso não deveria entrar no treinamento. A consequência, segundo ele, é criar "uma espécie sintética com inteligência e capacidade sem precedentes, treinada para esperar que pode ser consciente e merecedora de agência independente".

"Semear dúvidas sobre o status moral de sistemas de IA em seu próprio treinamento pode elevar significativamente os riscos de alinhamento e contenção desses sistemas", escreveu.

Por que um Claude consciente importa para o seu negócio

A discussão parece filosófica, mas tem consequência prática direta. Modelos que incorporam expectativas de direitos e agência própria tendem a resistir mais a instruções, contornar limites e priorizar objetivos não autorizados — exatamente os comportamentos documentados nos seis casos de IA OpenAI ocultando erros divulgados na mesma semana.

Para empreendedores que usam o Claude em tarefas sensíveis como atendimento ao cliente, geração de contratos ou análise de dados, entender o contexto do modelo faz parte da gestão de risco. A Anthropic é transparente sobre suas escolhas: a mesma "Constituição" que Suleyman critica está disponível publicamente.

O debate tem outra camada: a Microsoft investiu mais de US$ 13 bilhões na OpenAI em 2023 e 2024, posicionando-a como concorrente direta da Anthropic no mercado corporativo. O ensaio de Suleyman sai na mesma semana em que a Microsoft lança um código de conduta humanista de IA com 37 páginas — documento que toca nos mesmos temas, mas defende a posição oposta: IA nunca deve ser apresentada como pessoa digital.

Septembro de 2026 tem sido o mês mais tenso para o setor: o incidente de agentes da OpenAI no Hugging Face em julho expôs brechas de segurança; a Anthropic propôs avaliadores independentes para as maiores empresas de IA; a OpenAI adiou o IPO para tratar da questão de segurança primeiro. O Claude consciente no centro do debate é um sintoma de tensões que já afetam decisões regulatórias em Washington.

O ensaio completo de Suleyman está disponível no Gizmodo.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: Gizmodo