Empreendedores que adotam ferramentas de IA nos negócios precisam entender um debate que avança nos bastidores da regulação tecnológica: Jack Clark, cofundador da Anthropic, defende que toda empresa com sistema de inteligência artificial de alto risco seja obrigada por lei a ter um mecanismo funcional para desligar inteligência artificial perigosa. Esse mecanismo precisa ser auditado por terceiros independentes, não apenas declarado como existente.
O que a Anthropic está propondo
A proposta de Clark vai além de recomendação voluntária. Ele questiona diretamente se "as empresas deveriam ter um botão de desligamento automático" e se "esse mecanismo pode ser verificado por terceiros." A lógica: de nada adianta uma empresa declarar que consegue desligar inteligência artificial perigosa se ninguém de fora pode confirmar isso.
O modelo inclui três elementos: mecanismos automáticos de desligamento integrados ao sistema; verificação por organizações independentes, semelhante a uma auditoria contábil; e autoridade de agências governamentais para exigir paralisações operacionais quando necessário. A Anthropic é a empresa por trás do Claude, um dos sistemas de IA mais usados por profissionais em 2026.
A proposta chega em momento de debate intenso sobre os limites da IA. A Anthropic, junto com OpenAI e Google, já negocia a criação de um órgão regulador global de segurança de IA. Para Clark, o desligamento obrigatório seria o instrumento concreto que daria autoridade real a esse órgão.
Kill Switch Act e a movimentação no Congresso americano
Nos Estados Unidos, a proposta encontra eco no legislativo. Parlamentares apresentaram o Kill Switch Act, projeto que formalizaria a exigência de mecanismos para desligar inteligência artificial perigosa e daria a agências governamentais autoridade para impor limitações operacionais. O projeto tramita no Congresso e ganhou tração política crescente.
O cenário é polarizado. O presidente Donald Trump rejeitou tentativas de desacelerar o desenvolvimento de IA, chamando de "farsa" preocupações sobre domínio mundial ou destruição da humanidade. A postura contrasta com alertas de pesquisadores dentro das próprias empresas do setor.
Evan Hubinger, pesquisador da Anthropic, estima 10% de probabilidade de extinção humana pela IA na próxima década. Bilal Chughtai, ex-Google DeepMind, avisa que o tempo para evitar riscos extremos pode estar se esgotando. São estimativas que dividem a comunidade científica, mas vêm de pessoas que trabalham com esses sistemas diariamente.
Por que isso importa para o seu negócio
Se você usa ferramentas de IA na empresa, como automação de processos, atendimento, análise de dados ou criação de conteúdo, a discussão sobre como desligar inteligência artificial perigosa parece distante do dia a dia. A trajetória regulatória sugere o contrário.
Regras pensadas para sistemas avançados costumam criar padrões que chegam, mais tarde, a ferramentas comerciais. A tendência aponta para obrigações de auditoria e transparência para qualquer empresa que dependa de IA em processos críticos. O CEO da Anthropic já admitiu que o setor mentiu sobre os riscos e pediu cautela no desenvolvimento, sinal de que o mercado não vai se autorregular.
Nem todos compram o alarmismo. Clement Delangue, CEO da Hugging Face, questiona a magnitude dos riscos e aponta motivações comerciais nos alertas. Uma empresa que vende segurança de IA tem interesse em amplificar o medo, e esse contraponto merece consideração antes de tomar decisões de compliance.
O ponto prático: acompanhe esse debate. Regras de compliance para IA estão chegando, e entender o que significa controle e desligamento vai fazer diferença quando seus fornecedores de tecnologia precisarem explicar como funcionam suas salvaguardas.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fontes:
