Como o Irã usou o ChatGPT para criar jornalistas fictícios

A propaganda com ChatGPT não começou como um ataque técnico: foi uma operação editorial. Em 8 de outubro de 2026, a OpenAI publicou um relatório detalhando a operação "Bogus Bylines": um grupo baseado no Irã abriu contas no ChatGPT, enviou instruções em persa e recebeu artigos prontos em inglês, formatados para diferentes veículos de imprensa. O sistema também gerava e-mails de pitch para editores e comentários em redes sociais sobre os textos publicados.

Sete assinaturas fictícias foram identificadas pela OpenAI. Os nomes eram ocidentais, em sua maioria americanos, e se apresentavam como freelancers, analistas de políticas públicas ou defensores da paz. Um deles, Ervin Hoskins, tinha perfis no X e no Instagram. O X indicava um aplicativo da Ásia Ocidental e o Instagram apontava localização no Irã. Fotos de perfil foram geradas com as próprias ferramentas da OpenAI.

A operação publicou cerca de 100 artigos em pelo menos 20 veículos. Os textos tratavam de temas do Oriente Médio com foco nos efeitos da guerra com o Irã para os americanos. O Middle East Monitor foi o veículo com maior exposição: pelo menos 21 artigos foram atribuídos à operação. O veículo removeu os textos após a divulgação.

Como os artigos chegaram aos jornais

O caso do Port St. Joe Star, um semanário da Flórida, ilustra a vulnerabilidade do fluxo editorial. A coluna chegou ao jornal pela PeaceVoice, uma organização que distribui artigos de opinião sobre paz e geopolítica. O editor não verificou a identidade do autor porque confiava na curadoria da PeaceVoice. Depois do incidente, a PeaceVoice reforçou suas políticas sobre o uso de IA.

O Daily Kos publicou textos da operação na plataforma comunitária, que não tem revisão editorial prévia para contribuidores externos. O veículo removeu os artigos assim que a operação foi revelada.

Segundo a OpenAI, a propaganda com ChatGPT pode ter sido conduzida por uma empresa comercial contratada para a operação. A identidade do contratante não foi identificada.

O uso de propaganda com ChatGPT para operações de influência não é novo, mas o caso iraniano é o mais documentado até hoje. A OpenAI baniu as contas envolvidas, bloqueou o acesso ao ChatGPT a partir do Irã, compartilhou as informações com autoridades e publicou o relatório para alertar reguladores, empresas de mídia e o público. O mesmo relatório descreve uma operação russa separada que usou o ChatGPT para criar um falso think tank na América Latina e minar o apoio à Ucrânia na região.

Por que isso importa para o seu negócio

A operação iraniana mostra que o principal risco não é detectar se um texto foi escrito por IA. É verificar se o autor que assina o texto existe. Ferramentas de detecção de IA medem probabilidade estatística, não identidade. Uma marca d'agua para texto de IA como o TextGrain pode ajudar a rastrear a origem de conteúdo nos canais próprios de uma empresa, mas não impede que terceiros publiquem textos falsos em outros veículos.

Para empresas que dependem de cobertura de imprensa para reputação ou que têm interlocutores em veículos de nicho, o padrão de checagem mudou: verificar a identidade de autores e repórteres que entram em contato passou a fazer parte da gestão de risco. A escala desta operação, cerca de 100 artigos ao longo de mais de um ano, confirma que o custo de produção de propaganda com ChatGPT caiu de forma significativa com a IA generativa. Em 2024, a OpenAI declarou ter mais de 200 milhões de usuários semanais no ChatGPT, o que amplia a superfície de abuso possível em campanhas desse tipo.

O OpenAI Threat Intelligence Report está disponível no site da OpenAI para quem quiser os detalhes técnicos da operação e os indicadores de comprometimento identificados.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: Google News — AI (EN)