A OpenAI diz que baniu um grupo de contas do ChatGPT provavelmente originadas na Rússia depois de descobrir seu papel em uma campanha clandestina de influência construída em torno de um think tank fictício. A operação usou publicações em redes sociais geradas por IA, identidades falsas e um índice de “soberania” favorável à Rússia para disseminar narrativas políticas em plataformas ocidentais.

A campanha promovia o International Burke Institute (IBI), que se apresentava como uma comunidade de especialistas baseada em Israel. A investigação da OpenAI descobriu que o site da organização continha material acadêmico copiado e atribuído de forma incorreta, enquanto contas associadas publicavam conteúdo no X, LinkedIn, Facebook, Substack e Telegram. A empresa disse que o público observado da operação era limitado, mas que sua infraestrutura parecia projetada para uma distribuição mais ampla.

O que a OpenAI encontrou

Segundo a OpenAI, os operadores acessaram o ChatGPT a partir da Rússia usando VPNs, porque o serviço não está disponível lá. Eles faziam prompts em russo para produzir principalmente comentários em inglês para redes sociais e instruíam o modelo a remover pistas linguísticas que pudessem revelar sua origem.

O objetivo principal era promover artigos do IBI e seu “índice de soberania”, que classificava a Rússia de forma favorável enquanto retratava negativamente os países ocidentais. As publicações da campanha apareciam por meio de contas com a marca IBI, bem como de contas que pareciam de usuários comuns. Alguns operadores também geravam respostas a usuários reais do Substack, usando essas interações para incentivar as pessoas a seguir os canais do IBI.

A operação foi além da promoção em inglês. A OpenAI identificou publicações em alemão em um canal do Telegram chamado “Lahme Ente”, ou “Pato Manco”, que criticava a Ucrânia, a União Europeia e o governo federal alemão, ao mesmo tempo em que defendia relações mais estreitas com a Rússia.

Um segundo operador gerou logotipos para cerca de uma dúzia de canais do Telegram voltados para Alemanha, Estados Unidos, França, Polônia e Türkiye. Esse operador também pediu ao ChatGPT resumos em russo da atividade dos canais. A OpenAI disse que alguns dos canais ocasionalmente promoviam conteúdo do IBI, enquanto pelo menos um se apresentava como um veículo americano, apesar de mostrar sinais de inglês não nativo.

As evidências e seus limites

A evidência mais forte neste caso vem da própria investigação da OpenAI e de sua ação de aplicação contra contas. A empresa descreve as contas como “muito provavelmente” originadas na Rússia, em vez de apresentar uma atribuição jurídica pública a uma agência estatal específica ou a uma organização nomeada. Essa distinção importa: as evidências sustentam uma operação ligada à Rússia, mas o material disponível não estabelece quem a dirigiu ou financiou por fim.

A OpenAI também relatou que 34 de uma amostra de 36 artigos do IBI, ligados a supostos especialistas e publicados entre setembro de 2025 e maio de 2026, haviam sido copiados de outros locais na internet. Alguns receberam créditos de autor falsos. Um artigo aparentemente extraído de material da Cambridge University Press foi atribuído a um professor da University of Nottingham, enquanto um artigo sobre migração do Migration Policy Institute foi creditado a um professor australiano de química de alimentos.

A empresa disse que parte do material do IBI parecia ter sido escrita por um falante de língua eslava e traduzida por máquina. A OpenAI apontou o uso de “Svetofor”, uma transliteração da palavra russa para semáforo, em uma referência à coalizão alemã “semáforo”. Essas pistas ajudaram a conectar o material voltado ao público à origem em língua russa, embora sejam indícios e não prova conclusiva de autoria individual.

A OpenAI caracterizou a campanha como até então não relatada e mais elaborada do que outras operações ligadas à Rússia que ela desarticulou. The Decoder, que revisou as conclusões da empresa, relatou que as publicações individuais receberam poucas visualizações e que as contas oficiais do IBI tinham poucos assinantes. Os canais do Telegram ligados a ela eram maiores, com audiências relatadas de 10 mil a 20 mil seguidores cada. Esses números vêm da reportagem e da avaliação da OpenAI, não de uma medição independente de usuários ativos ou autênticos.

A OpenAI colocou a campanha no nível três da escala de seis categorias Brookings Breakout Scale, o que significa que ela havia se espalhado por várias plataformas com indícios iniciais de alcançar usuários reais. Trata-se de uma avaliação do desenvolvimento da campanha, não de uma medida de impacto persuasivo ou eleitoral.

Onde o ChatGPT se encaixou na operação

O uso do ChatGPT na campanha foi operacional, e não centrado na produção da pesquisa do site do IBI. A OpenAI disse que o modelo gerou publicações em redes sociais, respostas, resumos e alguns ativos visuais, como logotipos de canais. Os artigos copiados e os relatórios de “soberania” do site não foram gerados por modelos da OpenAI, segundo a análise da empresa.

Essa divisão é importante para desenvolvedores e operadores de plataformas. A IA generativa não precisava criar uma publicação propagandística completa para que a operação se beneficiasse da automação. Ela ajudou a produzir variações de mensagens, adaptar conteúdo para diferentes idiomas e plataformas e manter uma rede de contas e canais. O efeito é reduzir o trabalho necessário para a distribuição rotineira, mesmo quando as alegações subjacentes e o material de origem são fraudulentos.

A OpenAI disse que identificou anteriormente, em 2024, uma rede russa chamada “Bad Grammar”, que usou seus modelos para gerar comentários políticos no Telegram sobre Rússia, Ucrânia e os Estados Bálticos. A empresa também relatou a “Operation Helgoland Bite”, uma campanha posterior que usou o ChatGPT para produzir material em alemão antes das eleições federais da Alemanha em 2025.

Esses casos cobrem apenas atividades visíveis para a OpenAI. The Decoder observou que os operadores também podem usar outros provedores e modelos de pesos abertos, o que torna os dados de aplicação da empresa uma visão incompleta da atividade de influência assistida por IA. Assim, os banimentos de contas pela OpenAI demonstram interrupção em um serviço, não contenção da tática mais ampla.

Implicações para plataformas de IA e empresas

Para as empresas de IA, o incidente mostra por que o monitoramento de abuso deve examinar o comportamento entre prompts, contas e plataformas externas, em vez de tratar cada solicitação de geração isoladamente. Pedidos para traduzir mensagens políticas, resumir a atividade de canais ou remover marcadores linguísticos podem parecer inofensivos individualmente. Em conjunto, podem revelar engano coordenado.

Para as plataformas sociais, o caso reforça a necessidade de avaliar as redes de distribuição, não apenas a precisão factual de publicações individuais. Uma mensagem gerada pelo ChatGPT pode ser difícil de classificar como nociva por si só. Os sinais mais fortes podem ser a promoção repetida de uma nova organização, publicações sincronizadas, biografias fabricadas, pesquisas copiadas e contas cuja atividade é quase inteiramente de amplificação.

As equipes corporativas de IA devem tirar uma lição mais restrita, mas prática: controles de procedência e identidade importam quando ferramentas generativas estão conectadas a fluxos de publicação. Registro, limites de taxa, revisão de conteúdo político ou reputacional e detecção de padrões repetidos entre plataformas podem reduzir a chance de que a automação interna seja reaproveitada para alcance encoberto. Esses controles não determinam por si só a intenção do operador, mas podem tornar o abuso mais visível.

O que observar em seguida

O sinal imediato será se a OpenAI ou outras plataformas identificarem contas, domínios ou canais adicionais ligados ao International Burke Institute. Pesquisadores também devem examinar se as audiências do Telegram representam seguidores genuínos, contas coordenadas ou infraestrutura dormente.

Uma segunda questão é se operações semelhantes estão migrando para modelos de pesos abertos ou serviços com relatórios de abuso mais fracos. Isso testaria se os banimentos no nível da plataforma realmente desaceleram campanhas ou simplesmente empurram os operadores para outras ferramentas.

Por fim, investigadores ficarão atentos a uma localização mais sofisticada: traduções com som natural, perfis de autores críveis e conteúdo adaptado a comunidades políticas específicas. A operação atual mostrou fraquezas visíveis, mas o alerta da OpenAI é que sua infraestrutura poderia ter sido ampliada antes que essas fraquezas fossem corrigidas.

Perspectiva Creati.ai

Este incidente tem menos a ver com o ChatGPT criando influência de forma independente e mais com operadores inserindo um modelo de uso geral em um sistema mais amplo de engano. A instituição falsa, a pesquisa roubada, as identidades fabricadas e os canais de distribuição forneceram credibilidade e alcance à campanha; a IA reduziu o custo de produzir e adaptar o conteúdo de apoio.

Para a indústria de IA, o desafio duradouro é atribuição e coordenação. Banimentos de contas podem remover uma campanha de uma plataforma, mas uma defesa eficaz exigirá cooperação entre provedores de modelos, redes sociais, pesquisadores e investigadores, preservando limites claros em torno das evidências. O relatório da OpenAI é significativo porque expõe esse fluxo de trabalho em detalhes, mas suas próprias descobertas também mostram por que um único provedor não consegue medir a escala total de operações de influência assistidas por IA.