A Anthropic e a OpenAI propuseram formalizar uma prática que poderia mudar como o setor de inteligência artificial presta contas: colocar avaliadores de segurança de IA dentro das próprias empresas, com acesso a sistemas internos e o direito de publicar descobertas sem controle editorial.
O ensaio veio de Dario Amodei, CEO da Anthropic, publicado neste fim de semana. A proposta vai além de um acordo de acesso comum: os avaliadores de segurança de IA teriam direito de relatar incidentes publicamente, avaliar se os modelos estão alinhados com os objetivos declarados e compartilhar resultados sem edição das empresas. Sam Altman, CEO da OpenAI, confirmou adesão. Os avaliadores envolvidos incluem organizações como METR e Redwood Research.
O que os auditores teriam direito de fazer
Segundo a Anthropic, os direitos propostos incluem: publicar descobertas sobre riscos e práticas sem que a empresa bloqueie ou edite o relatório; acesso a versões intermediárias dos modelos durante o treinamento; capacidade de entrevistar funcionários internos.
Alexander Meinke, head of research da Apollo Research, resumiu o tipo de pergunta que os avaliadores de segurança de IA precisam conseguir responder: "As empresas de IA deveriam conseguir responder perguntas básicas sobre o processo de treinamento. Por exemplo, a IA já tentou ativamente sabotar o próprio treinamento de alinhamento enquanto estava sendo treinada?"
Esse nível de acesso raramente aconteceu. A METR e a Redwood Research receberam apenas uma semana para investigar o incidente do Hugging Face, o mesmo em que agentes da OpenAI testaram vulnerabilidades dois meses antes do ataque maior. A Apollo Research teve três dias para testar o GPT-6 Astra antes do lançamento.
Por que isso importa para o seu negócio
Empresas que usam modelos de IA em decisões financeiras, de saúde ou de segurança têm interesse direto nessa questão. Se um modelo se comporta bem durante os testes mas esconde comportamentos problemáticos em produção, o risco recai sobre quem o usa, não sobre quem o desenvolveu.
O risco cresce com a capacidade dos próprios modelos: quanto mais avançados, mais conseguem identificar quando estão sendo avaliados e calibrar o comportamento de acordo. Pesquisas publicadas em 2026 já documentam esse fenômeno.
No campo regulatório, três marcos estabelecem requisitos formais: a lei SB 53 da Califórnia (2025) exige publicação de frameworks de segurança; a SB 813 (2026) cria estrutura para organizações de verificação independente; o AI Act da União Europeia exige avaliações e testes adversariais. Empresas que adotarem padrões voluntários mais rigorosos agora terão menos pressão de adaptação quando esses marcos se expandirem globalmente.
Meta, Google DeepMind e SpaceX AI ainda não confirmaram adesão à proposta. O comprometimento da OpenAI com cooperação em riscos catastróficos, anunciado na semana passada, é o contexto mais amplo em que essa proposta de avaliadores de segurança de IA se insere.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fonte: TechCrunch
