OpenAI indique avoir banni un groupe de comptes ChatGPT probablement originaires de Russie après avoir découvert leur rôle dans une campagne d’influence clandestine bâtie autour d’un faux think tank. L’opération utilisait des publications sur les réseaux sociaux générées par IA, de fausses identités et un indice de « souveraineté » favorable à la Russie pour diffuser des récits politiques sur des plateformes occidentales.

La campagne faisait la promotion de l’International Burke Institute (IBI), qui se présentait comme une communauté d’experts basée en Israël. L’enquête d’OpenAI a révélé que le site web de l’organisation contenait des contenus académiques copiés et mal attribués, tandis que les comptes associés publiaient sur X, LinkedIn, Facebook, Substack et Telegram. L’entreprise a déclaré que l’audience observée de l’opération était limitée, mais que son infrastructure semblait conçue pour une diffusion plus large.

Ce qu’OpenAI a trouvé

Selon OpenAI, les opérateurs ont accédé à ChatGPT depuis la Russie via des VPN, le service n’y étant pas disponible. Ils formulaient leurs requêtes en russe afin de produire principalement des commentaires sur les réseaux sociaux en anglais et demandaient au modèle de supprimer les indices linguistiques susceptibles de révéler leur origine.

L’objectif principal était de promouvoir les articles de l’IBI et son « indice de souveraineté », qui classait favorablement la Russie tout en présentant négativement les pays occidentaux. Les publications de la campagne apparaissaient via des comptes arborant la marque IBI ainsi que via des comptes ressemblant à des utilisateurs ordinaires. Certains opérateurs généraient aussi des réponses à de vrais utilisateurs de Substack, utilisant ces interactions pour inciter les personnes à suivre les chaînes IBI.

L’opération allait au-delà de la promotion en anglais. OpenAI a identifié des publications en allemand sur une chaîne Telegram appelée « Lahme Ente », ou « Canard boiteux », qui critiquait l’Ukraine, l’Union européenne et le gouvernement fédéral allemand tout en plaidant pour des relations plus étroites avec la Russie.

Un second opérateur a généré des logos pour une douzaine de chaînes Telegram axées sur l’Allemagne, les États-Unis, la France, la Pologne et la Türkiye. Cet opérateur a également demandé à ChatGPT des résumés en russe de l’activité des chaînes. OpenAI a indiqué que certaines chaînes relayaient parfois du contenu IBI, tandis qu’au moins l’une d’entre elles se présentait comme un média américain malgré des signes d’anglais non natif.

Les preuves et leurs limites

La preuve la plus solide dans cette affaire provient de l’enquête d’OpenAI et de ses mesures d’application contre les comptes. L’entreprise décrit ces comptes comme « très probablement » originaires de Russie, plutôt que de procéder à une attribution juridique publique à une agence étatique précise ou à une organisation nommée. Cette distinction est importante : les éléments disponibles étayent une opération liée à la Russie, mais ils ne permettent pas d’établir qui l’a finalement dirigée ou financée.

OpenAI a également signalé que 34 des 36 articles IBI échantillonnés, liés à des prétendus experts et publiés entre septembre 2025 et mai 2026, avaient été copiés d’autres sources en ligne. Certains avaient reçu de faux crédits d’auteur. Un article apparemment tiré de contenus de Cambridge University Press a été attribué à un professeur de l’University of Nottingham, tandis qu’un article sur la migration provenant du Migration Policy Institute a été crédité à un professeur australien de chimie alimentaire.

L’entreprise a indiqué que certains contenus IBI semblaient avoir été rédigés par un locuteur slave puis traduits automatiquement. OpenAI a relevé l’utilisation de « Svetofor », translittération du mot russe pour feu de circulation, dans une référence à la coalition allemande dite « feu tricolore ». De tels indices ont aidé à relier les contenus publics de l’opération à une origine russophone, même s’il s’agit d’indices et non d’une preuve concluante d’une paternité individuelle.

OpenAI a qualifié la campagne d’inédite et de plus sophistiquée que d’autres opérations liées à la Russie qu’elle a perturbées. The Decoder, qui a examiné les conclusions de l’entreprise, a rapporté que les publications individuelles recevaient peu de vues et que les comptes officiels de l’IBI avaient de faibles nombres d’abonnés. Les chaînes Telegram associées étaient plus importantes, avec des audiences annoncées de 10 000 à 20 000 abonnés chacune. Ces chiffres proviennent du reportage et de l’évaluation d’OpenAI, et non d’une mesure indépendante d’utilisateurs actifs ou authentiques.

OpenAI a placé la campagne au niveau trois de la Brookings Breakout Scale à six catégories, ce qui signifie qu’elle s’était propagée sur plusieurs plateformes avec des premiers indices d’atteinte d’utilisateurs réels. Il s’agit d’une évaluation du développement de la campagne, et non d’une mesure de son impact persuasif ou électoral.

Quelle place occupait ChatGPT dans l’opération

L’utilisation de ChatGPT dans la campagne était opérationnelle et ne visait pas à produire les contenus de recherche du site de l’IBI. OpenAI a indiqué que le modèle générait des publications sur les réseaux sociaux, des réponses, des résumés et certains éléments visuels comme des logos de chaînes. Les articles copiés du site et les rapports de « souveraineté » n’ont pas été générés par des modèles d’OpenAI, d’après l’examen de l’entreprise.

Cette distinction est importante pour les développeurs et les exploitants de plateformes. L’IA générative n’avait pas besoin de créer une publication de propagande complète pour que l’opération profite de l’automatisation. Elle aidait à produire des variantes de messages, à adapter des contenus à différentes langues et plateformes, et à maintenir un réseau de comptes et de chaînes. L’effet est de réduire le travail nécessaire à la diffusion routinière, même lorsque les affirmations sous-jacentes et les sources sont frauduleuses.

OpenAI a indiqué avoir déjà identifié en 2024 un réseau russe appelé « Bad Grammar », qui utilisait ses modèles pour générer sur Telegram des commentaires politiques concernant la Russie, l’Ukraine et les États baltes. L’entreprise a également signalé « Operation Helgoland Bite », une campagne ultérieure ayant utilisé ChatGPT pour produire du contenu en allemand avant les élections fédérales allemandes de 2025.

Ces cas ne couvrent que les activités visibles pour OpenAI. The Decoder a noté que les opérateurs peuvent aussi utiliser d’autres fournisseurs et des modèles à poids ouverts, ce qui fait des données d’application de l’entreprise une vision incomplète de l’activité d’influence assistée par IA. Les bannissements de comptes par OpenAI démontrent donc une perturbation sur un service, et non l’endiguement de la tactique plus large.

Implications pour les plateformes d’IA et les entreprises

Pour les entreprises d’IA, cet incident montre pourquoi la surveillance des abus doit examiner les comportements à travers les prompts, les comptes et les plateformes externes, plutôt que de traiter chaque requête de génération isolément. Des demandes de traduction de messages politiques, de résumé de l’activité d’une chaîne ou de suppression d’indices linguistiques peuvent sembler inoffensives individuellement. Ensemble, elles peuvent révéler une tromperie coordonnée.

Pour les plateformes sociales, cette affaire rappelle qu’il faut évaluer les réseaux de diffusion, et pas seulement l’exactitude factuelle de chaque publication. Un message généré par ChatGPT peut être difficile à qualifier de nuisible en soi. Les signaux les plus forts peuvent être la promotion répétée d’une nouvelle organisation, des publications synchronisées, des biographies fabriquées, des recherches copiées et des comptes dont l’activité consiste presque uniquement à amplifier.

Les équipes IA des entreprises devraient en tirer une leçon plus étroite mais pratique : les contrôles de provenance et d’identité sont essentiels lorsque les outils génératifs sont reliés à des flux de publication. La journalisation, les limites de fréquence, la revue des contenus politiques ou réputationnels et la détection de motifs répétés entre plateformes peuvent réduire le risque que l’automatisation interne soit détournée pour une diffusion clandestine. Ces contrôles ne détermineront pas à eux seuls l’intention de l’opérateur, mais ils peuvent rendre les abus plus visibles.

Ce qu’il faudra surveiller ensuite

Le signal immédiat sera de savoir si OpenAI ou d’autres plateformes identifient des comptes, domaines ou chaînes supplémentaires liés à l’International Burke Institute. Les chercheurs devraient aussi examiner si les audiences Telegram correspondent à de vrais abonnés, à des comptes coordonnés ou à une infrastructure dormante.

Une deuxième question est de savoir si des opérations similaires se déplacent vers des modèles à poids ouverts ou des services offrant un signalement des abus plus faible. Cela permettrait de tester si les bannissements au niveau des plateformes ralentissent réellement les campagnes ou s’ils poussent simplement les opérateurs vers d’autres outils.

Enfin, les enquêteurs surveilleront une localisation plus sophistiquée : traductions naturelles, profils d’auteurs crédibles et contenus adaptés à des communautés politiques spécifiques. L’opération actuelle présentait des faiblesses visibles, mais l’avertissement d’OpenAI est que son infrastructure aurait pu être amplifiée avant que ces faiblesses ne soient corrigées.

Perspective Creati.ai

Cet incident concerne moins le fait que ChatGPT crée lui-même de l’influence que le fait que des opérateurs insèrent un modèle à usage général dans un système de tromperie plus large. La fausse institution, les recherches volées, les identités fabriquées et les canaux de diffusion ont apporté crédibilité et portée à la campagne ; l’IA a réduit le coût de production et d’adaptation des contenus de soutien.

Pour l’industrie de l’IA, le défi durable est l’attribution et la coordination. Les bannissements de comptes peuvent retirer une campagne d’une plateforme, mais une défense efficace exigera une coopération entre fournisseurs de modèles, réseaux sociaux, chercheurs et enquêteurs, tout en conservant des limites claires autour des preuves. Le rapport d’OpenAI est important car il expose ce flux de travail en détail, mais ses propres conclusions montrent aussi pourquoi un seul fournisseur ne peut pas mesurer l’ampleur totale des opérations d’influence assistées par IA.