Carli Michelle Heller, de Bonita Springs, Flórida, vinha usando o Claude como diário pessoal. No dia 26 de setembro de 2026, uma das entradas trouxe a afirmação de que ela atacaria o escritório do xerife do Condado de Lee. No dia seguinte, ela escreveu que havia adquirido uma nova arma.

O Claude diário ameaça chegou ao sistema de segurança da Anthropic de forma automática. Um revisor humano avaliou o conteúdo, considerou a ameaça crível e encaminhou as informações às autoridades. A polícia localizou Heller em casa e a deteve sem resistência. Um detetive de inteligência do LCSO (Lee County Sheriff's Office) assumiu a investigação.

As acusações e o enquadramento legal

Heller enfrenta acusação de crime de segundo grau pelo Florida Statute 836.10, com pena máxima de 15 anos de prisão prevista no Florida Statute 775.082. A lei classifica como felony enviar ameaça de matar ou ferir alguém por meio eletrônico "de modo que outra pessoa possa visualizar". O enquadramento considera o formato da mensagem e o acesso potencial de terceiros ao conteúdo.

Do Claude diário ameaça ao momento da prisão foram menos de 10 dias: a entrada foi em 26 de setembro e a detenção ocorreu antes de 4 de outubro, data da publicação das primeiras notícias.

Quando a Anthropic pode compartilhar dados com autoridades

A política de privacidade da Anthropic prevê divulgação de informações em "emergências limitadas quando acredita que é necessário para prevenir morte ou lesão física grave". OpenAI, Google e Meta têm linguagem similar nos termos de uso. Todos os principais fornecedores de IA operam sob alguma versão dessa cláusula.

O processo no caso Heller seguiu 3 etapas: detecção automática pelo sistema, revisão por humano, e só então o reporte. Não há indicação de que a empresa entregou o histórico completo da usuária. A ação foi específica em torno do conteúdo sinalizado.

Pesquisas de 2026 indicam que contratados que revisam sistemas de IA podem acessar amostras de prompts, fotos e conteúdo gerado, prática padrão na indústria para moderação e treinamento. Poucas empresas detalham os critérios exatos de escalada para autoridades.

Por que isso importa para o seu negócio

O Claude diário ameaça deixa claro: conversas em sistemas de IA como ChatGPT, Claude ou Gemini não têm o mesmo sigilo de uma nota em papel. Os termos de uso de todos os principais modelos autorizam acesso humano ao conteúdo e denúncia em situações que a empresa considere emergência, conforme apontado pelo pacto de segurança da IA firmado por OpenAI, Anthropic e Google.

Para empresas que usam IA em atendimento, suporte ou operações internas, isso tem implicações práticas. A primeira é de compliance: colaboradores devem saber que conversas com IAs podem ser revisadas pelo fornecedor. A segunda é operacional: se alguém na equipe escrever algo perturbador num sistema de IA corporativo, qual é o protocolo de resposta da empresa?

A recomendação do NIST para gestão de risco de IA é tratar dados de uso de IA com as mesmas políticas de retenção e acesso que dados corporativos sensíveis, não como comunicação pessoal.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: TechSpot