OpenAIは、架空のシンクタンクを中心に構築された秘密の影響工作に関与していたことが判明した後、ロシア発とみられるChatGPTアカウント群を停止したという。この作戦では、AI生成のソーシャルメディア投稿、偽の身元、そしてロシア寄りの「主権」指数を用いて、西側プラットフォーム全体に政治的ナラティブを拡散していた。

このキャンペーンは、イスラエル拠点の専門家コミュニティを自称していた International Burke Institute（IBI）を宣伝していた。OpenAIの調査では、同組織のウェブサイトにコピーされた学術資料や誤って帰属された資料が含まれている一方、関連アカウントはX、LinkedIn、Facebook、Substack、Telegramでコンテンツを投稿していたことが分かった。同社によれば、確認されたオーディエンスは限定的だったが、そのインフラはより広範な配信を想定して設計されていたようだった。

OpenAIが見つけたもの

OpenAIによると、運営者たちはサービスが利用できないためVPNを使ってロシアからChatGPTにアクセスしていた。彼らは主に英語のソーシャルメディアコメントを作成するためにロシア語でプロンプトを入力し、自分たちの出自を示す可能性のある言語的手がかりを取り除くようモデルに指示していた。

主な目的は、IBIの記事と「主権指数」を宣伝することだった。この指数は、ロシアを好意的に評価し、西側諸国を否定的に描いていた。キャンペーンの投稿は、IBIのブランドを掲げたアカウントや、一般ユーザーのように見えるアカウントを通じて拡散されていた。一部の運営者は、実在のSubstackユーザーへの返信も生成し、そうしたやり取りを通じて人々にIBIのチャンネルをフォローするよう促していた。

この作戦は英語圏向けの宣伝にとどまらなかった。OpenAIは、「Lahme Ente」（「ラメ・ダック」）と呼ばれるTelegramチャンネル上で、ウクライナ、欧州連合、ドイツ連邦政府を批判しつつ、ロシアとのより緊密な関係を主張するドイツ語投稿を特定した。

別の運営者は、ドイツ、米国、フランス、ポーランド、トルコに焦点を当てたおよそ12のTelegramチャンネル向けにロゴを生成した。その運営者はまた、各チャンネルの活動についてロシア語の要約をChatGPTに求めていた。OpenAIによれば、それらのチャンネルの一部は時折IBIのコンテンツを宣伝しており、少なくとも1つは非ネイティブな英語の兆候があるにもかかわらず、米国のメディアを装っていた。

証拠とその限界

この件で最も強い証拠は、OpenAI自身の調査とアカウント執行措置にある。同社はこれらのアカウントを、特定の国家機関や名指しされた組織への公開法的帰属ではなく、「非常に高い確率で」ロシア発と説明している。この違いは重要だ。証拠はロシア関与の作戦を裏付けているが、誰が最終的に指揮し資金提供したのかは公開資料からは特定されていない。

OpenAIはまた、2025年9月から2026年5月の間に公開され、想定上の専門家に結びつけられたIBI記事36本のうち34本が、オンライン上の別の場所からコピーされていたと報告した。一部には虚偽の著者クレジットが付けられていた。Cambridge University Pressの資料から取られたと思われる記事はNottingham大学の教授に帰され、Migration Policy Instituteの移民に関する記事はオーストラリアの食品化学教授にクレジットされていた。

同社によると、IBIの一部の資料はスラブ語話者によって書かれ、機械翻訳されたように見えたという。OpenAIは、ドイツの「信号機」連立政権への言及で、ロシア語の「信号機」を意味する語を音写した「Svetofor」という表現が使われていたことを指摘した。こうした手がかりは、作戦の公開向け素材をロシア語圏の起源と結びつけるのに役立ったが、あくまで状況証拠であり、個々の著者を決定的に証明するものではない。

OpenAIはこのキャンペーンを、これまで報告されておらず、同社が阻止した他のロシア関与作戦よりも巧妙だと評した。The Decoderは同社の調査結果を確認し、個々の投稿の閲覧数は少なく、IBIの公式アカウントの購読者数も少なかったと報じた。連携するTelegramチャンネルはより大きく、それぞれ1万人から2万人のフォロワーがいたとされる。これらの数字は報道とOpenAIの評価に基づくもので、活動的または本物のユーザーを独立に測定したものではない。

OpenAIはこのキャンペーンを、6段階のBrookings Breakout Scaleでレベル3に位置付けた。これは、複数のプラットフォームに広がり、実在ユーザーに届き始めている兆候があることを意味する。これはキャンペーン発展の評価であり、説得効果や選挙への影響を測るものではない。

作戦におけるChatGPTの役割

このキャンペーンでのChatGPTの利用は運用上のものであり、IBIウェブサイトの調査研究を作成することが中心ではなかった。OpenAIによると、モデルはソーシャルメディア投稿、返信、要約、そしてチャンネルロゴのような一部の視覚素材を生成した。ウェブサイトのコピー記事や「主権」レポートは、同社の調査によればOpenAIのモデルによって生成されたものではない。

この区別は、開発者やプラットフォーム運営者にとって重要だ。生成AIは、作戦が自動化の恩恵を受けるために完全な宣伝出版物を作る必要はなかった。メッセージのバリエーションを生み出し、異なる言語やプラットフォーム向けに内容を適応させ、アカウントとチャンネルのネットワークを維持するのに役立った。その結果、基礎となる主張やソース資料が詐欺的であっても、定常的な配信に必要な労力が減る。

OpenAIは以前、2024年に「Bad Grammar」と呼ばれるロシアのネットワークを特定しており、同ネットワークは同社のモデルを使って、ロシア、ウクライナ、バルト諸国に関する政治コメントをTelegramで生成していた。また同社は、2025年のドイツ連邦選挙前にChatGPTを使ってドイツ語の素材を作成した後続キャンペーン「Operation Helgoland Bite」も報告している。

これらの事例は、OpenAIに見える活動のみを対象としている。The Decoderは、運営者が他のプロバイダーやオープンウェイトモデルも利用できるため、同社の執行データはAI支援による影響活動の不完全な一部にすぎないと指摘した。したがって、OpenAIのアカウント停止は、1つのサービスでの妨害を示すものであり、広範な手法そのものを封じ込めたことを意味しない。

AIプラットフォームと企業への示唆

AI企業にとって、この事例は、悪用監視が各生成リクエストを個別に扱うのではなく、プロンプト、アカウント、外部プラットフォームを横断した行動を調べる必要があることを示している。政治的メッセージの翻訳、チャンネル活動の要約、言語的マーカーの削除といった要求は、それぞれ単独では無害に見えるかもしれない。だが組み合わさると、協調的な欺瞞が見えてくる。

ソーシャルプラットフォームにとって、この件は、個々の投稿の事実正確性だけでなく、配信ネットワークを評価する必要性を強調している。ChatGPTで生成されたメッセージは、それ単体では有害かどうかを分類しにくい。より強いシグナルは、新組織の繰り返しの宣伝、同期した投稿、偽造された経歴、コピーされた研究、そして活動のほとんどすべてが増幅であるアカウントかもしれない。

企業のAIチームは、より限定的だが実用的な教訓を引き出すべきだ。生成ツールが公開ワークフローに接続される場合、来歴と本人確認の管理が重要になる。ログ記録、レート制限、政治的または評判に関わるコンテンツのレビュー、プラットフォーム横断の繰り返しパターンの検出は、社内自動化が秘密の働きかけに転用される可能性を下げる。これらの管理だけで運営者の意図を見抜けるわけではないが、悪用をより可視化できる。

今後注目すべき点

当面の注目点は、OpenAIや他のプラットフォームがInternational Burke Instituteに関連する追加のアカウント、ドメイン、チャンネルを特定するかどうかだ。研究者はまた、Telegramのオーディエンスが本物のフォロワーなのか、協調アカウントなのか、あるいは休眠インフラなのかも調べるべきだ。

第2の論点は、同様の作戦がオープンウェイトモデルや、悪用報告が弱いサービスへ移行しているかどうかである。それは、プラットフォームレベルの停止がキャンペーンを実際に遅らせるのか、それとも運営者を別のツールに押しやるだけなのかを試すことになる。

最後に、調査官は、より洗練されたローカライズ、すなわち自然な翻訳、信頼できる著者プロフィール、特定の政治コミュニティに合わせたコンテンツに注目するだろう。今回の作戦には目に見える弱点があったが、OpenAIの警告は、その弱点が修正される前にインフラが拡大され得たということだ。

Creati.aiの見解

この事件の本質は、ChatGPTが単独で影響力を作り出したというより、運営者が汎用モデルをより広い欺瞞システムの中に組み込んだことにある。偽 संस्था、盗用された研究、捏造された身元、配信チャネルが、キャンペーンの信頼性と到達範囲を支えた。AIは、その補助コンテンツの作成と適応にかかるコストを下げただけだ。

AI業界にとって、持続的な課題は帰属と連携である。アカウント停止は1つのプラットフォームから1つのキャンペーンを取り除けるが、効果的な防御には、モデル提供者、ソーシャルネットワーク、研究者、調査官の協力が必要であり、証拠の境界を明確に保たなければならない。OpenAIの報告は、このワークフローを詳細に明らかにしている点で重要だが、その調査結果自体が、単一のプロバイダーではAI支援の影響工作の全体規模を測れない理由も示している。