Uma investigação do The American Prospect revelou que a Anthropic, criadora do Claude, está construindo um sistema de Anthropic vigilância ativistas que vai muito além da segurança física convencional. A empresa usa tecnologia preditiva para monitorar opositores à IA, emitir alertas sobre protestos antes de ocorrerem e reportar suspeitos à polícia — mesmo sem que nenhum crime tenha sido cometido.
O modelo opera por meio da equipe GSIS (Global Safety, Intelligence, and Security) da Anthropic, descrita internamente como responsável por identificar "ameaças globais incluindo instabilidade geopolítica, terrorismo, crime e ativismo".
Como funciona o sistema de Anthropic vigilância ativistas
A peça central é o uso do Samdesk, uma plataforma de detecção de risco em tempo real. O gerente do Centro de Operações de Segurança Global da Anthropic, Keon Ellison, descreveu um caso concreto: a empresa recebeu 60 minutos de aviso antecipado sobre um protesto que foi antecipado, permitindo redirecionar um executivo por uma entrada de serviço de hotel para evitar os manifestantes.
Mas o programa de Anthropic vigilância ativistas vai além de desviar executivos de manifestações. A empresa mantém um "processo de pessoas de interesse" para rastrear comportamentos considerados preocupantes ao longo do tempo — antes que qualquer crime ocorra. Em paralelo, a Anthropic relata regularmente preocupações a departamentos de polícia em todo os EUA.
Em um caso citado pela investigação, a empresa reportou um homem de São Francisco à polícia após ele dizer ao Claude que havia comprado um AR-15 e que tinha o CEO Dario Amodei "na mira". O homem nunca foi indiciado e alegou estar brincando.
Uma vaga publicada recentemente pela Anthropic buscava um especialista em inteligência empresarial com salário entre US$ 180 mil e US$ 230 mil anuais, responsável por investigar "ameaças globais incluindo instabilidade geopolítica, terrorismo, crime e ativismo".
Por que a Anthropic vigilância ativistas gera controvérsia
O professor de direito da Universidade de Santa Clara Eric Goldman alertou para o risco estrutural desse tipo de sistema: à medida que empresas de IA enfrentam oposição pública crescente, há pressão para super-reportar ameaças à polícia a fim de evitar responsabilidade — mesmo quando os indivíduos identificados não representam risco real.
A situação é mais paradoxal dado o histórico recente: a Anthropic recusou colaborar com o Departamento de Defesa dos EUA em vigilância doméstica, mas construiu internamente um sistema de monitoramento de opositores. A empresa não respondeu às perguntas do Prospect para a reportagem.
Por que isso importa para o seu negócio
O caso da Anthropic vigilância ativistas levanta uma questão prática para qualquer empresa que integra IA nos seus processos: o que os seus fornecedores de IA fazem com as conversas dos usuários e com os dados gerados por suas plataformas?
Se um usuário pode ser reportado à polícia por uma mensagem que ele mesmo diz ter sido uma brincadeira, isso levanta questões sobre privacidade, governança e reputação que afetam qualquer empresa que use Claude ou outras plataformas similares. Entender a política de privacidade e uso dos dados do seu fornecedor de IA é tão importante quanto entender a qualidade dos modelos. A investigação completa está disponível em The American Prospect.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fonte: The American Prospect
