OpenAI sagt, es habe eine Gruppe von ChatGPT-Konten gesperrt, die sehr wahrscheinlich aus Russland stammen, nachdem deren Rolle in einer verdeckten Einflusskampagne entdeckt worden war, die um eine fiktive Denkfabrik herum aufgebaut wurde. Die Operation nutzte KI-generierte Social-Media-Beiträge, falsche Identitäten und einen russlandfreundlichen „Souveränitäts“-Index, um politische Narrative über westliche Plattformen zu verbreiten.

Die Kampagne bewarb das International Burke Institute (IBI), das sich als eine in Israel ansässige Expertengemeinschaft präsentierte. OpenAIs Untersuchung ergab, dass die Website der Organisation kopiertes und falsch zugeordnetes wissenschaftliches Material enthielt, während zugehörige Konten Inhalte auf X, LinkedIn, Facebook, Substack und Telegram veröffentlichten. Das Unternehmen sagte, die beobachtete Reichweite der Operation sei begrenzt gewesen, ihre Infrastruktur habe jedoch auf eine breitere Verbreitung ausgelegt gewirkt.

Was OpenAI herausgefunden hat

Laut OpenAI griffen die Betreiber wegen der dort nicht verfügbaren Dienste über VPNs aus Russland auf ChatGPT zu. Sie gaben Prompts auf Russisch ein, um überwiegend englischsprachige Social-Media-Kommentare zu erzeugen, und wiesen das Modell an, sprachliche Hinweise zu entfernen, die ihre Herkunft verraten könnten.

Das Hauptziel bestand darin, IBI-Artikel und seinen „Souveränitätsindex“ zu bewerben, der Russland günstig einstufte und westliche Länder negativ darstellte. Die Beiträge der Kampagne erschienen über Konten mit IBI-Branding sowie über Konten, die wie normale Nutzer wirkten. Einige Betreiber erzeugten außerdem Antworten auf echte Substack-Nutzer und nutzten diese Interaktionen, um Menschen dazu zu bewegen, IBI-Kanälen zu folgen.

Die Operation beschränkte sich nicht auf englischsprachige Werbung. OpenAI identifizierte deutschsprachige Beiträge auf einem Telegram-Kanal namens „Lahme Ente“, der die Ukraine, die Europäische Union und die deutsche Bundesregierung kritisierte und zugleich engere Beziehungen zu Russland befürwortete.

Ein zweiter Betreiber erstellte Logos für rund ein Dutzend Telegram-Kanäle mit Fokus auf Deutschland, die Vereinigten Staaten, Frankreich, Polen und die Türkei. Dieser Betreiber bat ChatGPT außerdem um russischsprachige Zusammenfassungen der Aktivitäten der Kanäle. OpenAI sagte, einige der Kanäle hätten gelegentlich IBI-Inhalte beworben, während sich mindestens einer als amerikanisches Medium ausgab, obwohl Anzeichen für nicht muttersprachliches Englisch erkennbar waren.

Die Belege und ihre Grenzen

Die stärksten Belege in diesem Fall stammen aus OpenAIs eigener Untersuchung und den Maßnahmen zur Kontodurchsetzung. Das Unternehmen beschreibt die Konten als „sehr wahrscheinlich“ aus Russland stammend, statt eine öffentliche rechtliche Zuschreibung zu einer bestimmten staatlichen Stelle oder benannten Organisation vorzunehmen. Diese Unterscheidung ist wichtig: Die Beweise stützen eine russlandnahe Operation, aber das verfügbare Material zeigt nicht, wer sie letztlich gesteuert oder finanziert hat.

OpenAI berichtete außerdem, dass 34 von 36 geprüften IBI-Artikeln, die vermeintlichen Experten zugeschrieben und zwischen September 2025 und Mai 2026 veröffentlicht worden waren, aus anderen Online-Quellen kopiert worden seien. Einige erhielten falsche Urheberangaben. Ein offenbar aus Material von Cambridge University Press übernommener Artikel wurde einem Professor der University of Nottingham zugeschrieben, während ein Migrationsartikel des Migration Policy Institute einem australischen Professor für Lebensmittelchemie zugerechnet wurde.

Das Unternehmen sagte, einige IBI-Materialien seien offenbar von einer slawischsprachigen Person verfasst und maschinell übersetzt worden. OpenAI verwies auf die Verwendung von „Svetofor“, einer Transliteration des russischen Wortes für Verkehrsampel, in einer Anspielung auf Deutschlands „Ampel“-Koalition. Solche Hinweise halfen, das öffentlich sichtbare Material der Operation mit einem russischsprachigen Ursprung zu verbinden, auch wenn sie Indizien und kein schlüssiger Beweis für die individuelle Urheberschaft sind.

OpenAI bezeichnete die Kampagne als bislang nicht berichtet und ausgefeilter als andere russlandnahe Operationen, die es gestört hat. The Decoder, das die Erkenntnisse des Unternehmens überprüfte, berichtete, dass einzelne Beiträge nur wenige Aufrufe erhielten und die offiziellen IBI-Konten kleine Abonnentenzahlen hatten. Die verknüpften Telegram-Kanäle waren größer und hatten laut Bericht jeweils 10.000 bis 20.000 Follower. Diese Zahlen stammen aus der Berichterstattung und OpenAIs Einschätzung, nicht aus einer unabhängigen Messung aktiver oder authentischer Nutzer.

OpenAI ordnete die Kampagne auf der sechsstufigen Brookings Breakout Scale der Stufe drei zu, was bedeutet, dass sie sich über mehrere Plattformen ausgebreitet hatte und erste Hinweise auf das Erreichen echter Nutzer vorlagen. Das ist eine Bewertung der Kampagnenentwicklung, keine Messung von Überzeugungskraft oder Wahleinfluss.

Welche Rolle ChatGPT in der Operation spielte

Der Einsatz von ChatGPT in der Kampagne war operativer Natur und nicht auf die Erstellung der Forschungsinhalte der IBI-Website ausgerichtet. OpenAI sagte, das Modell habe Social-Media-Beiträge, Antworten, Zusammenfassungen und einige visuelle Elemente wie Kanal-Logos erzeugt. Die kopierten Artikel und „Souveränitäts“-Berichte der Website seien nach der Prüfung des Unternehmens nicht von OpenAI-Modellen generiert worden.

Diese Unterscheidung ist für Entwickler und Plattformbetreiber wichtig. Generative KI musste keine vollständige Propagandapublikation erstellen, damit die Operation von Automatisierung profitieren konnte. Sie half dabei, Nachrichtenvarianten zu erzeugen, Inhalte an verschiedene Sprachen und Plattformen anzupassen und ein Netzwerk aus Konten und Kanälen aufrechtzuerhalten. Dadurch sinkt der Arbeitsaufwand für die routinemäßige Verbreitung, selbst wenn die zugrunde liegenden Behauptungen und Quellenmaterialien betrügerisch sind.

OpenAI sagte, es habe 2024 bereits ein russisches Netzwerk namens „Bad Grammar“ identifiziert, das seine Modelle nutzte, um politische Kommentare auf Telegram über Russland, die Ukraine und die baltischen Staaten zu erzeugen. Das Unternehmen berichtete außerdem über „Operation Helgoland Bite“, eine spätere Kampagne, die ChatGPT nutzte, um vor der Bundestagswahl 2025 deutschsprachiges Material zu produzieren.

Diese Fälle decken nur Aktivitäten ab, die für OpenAI sichtbar waren. The Decoder wies darauf hin, dass Betreiber auch andere Anbieter und Open-Weight-Modelle verwenden können, wodurch die Durchsetzungsdaten des Unternehmens nur einen unvollständigen Blick auf KI-gestützte Einflussaktivitäten bieten. OpenAIs Kontosperrungen zeigen daher eine Unterbindung auf einem Dienst, nicht die Eindämmung der breiteren Taktik.

Auswirkungen auf KI-Plattformen und Unternehmen

Für KI-Unternehmen zeigt der Vorfall, warum Missbrauchsmonitoring Verhaltensmuster über Prompts, Konten und externe Plattformen hinweg untersuchen muss, statt jede einzelne Generierungsanfrage isoliert zu betrachten. Aufforderungen, politische Botschaften zu übersetzen, Kanalaktivitäten zusammenzufassen oder sprachliche Merkmale zu entfernen, können für sich genommen harmlos erscheinen. In Kombination können sie koordinierte Täuschung offenlegen.

Für Social-Media-Plattformen unterstreicht der Fall die Notwendigkeit, Verbreitungsnetzwerke zu bewerten, nicht nur die inhaltliche Richtigkeit einzelner Beiträge. Eine von ChatGPT erzeugte Nachricht kann für sich allein schwer als schädlich einzustufen sein. Stärkere Signale können die wiederholte Bewerbung einer neuen Organisation, synchronisierte Veröffentlichungen, erfundene Biografien, kopierte Forschung und Konten sein, deren Aktivität fast ausschließlich aus Verstärkung besteht.

Unternehmensinterne KI-Teams sollten eine engere, aber praktische Lehre ziehen: Herkunfts- und Identitätskontrollen sind wichtig, wenn generative Werkzeuge mit Publishing-Workflows verbunden sind. Protokollierung, Ratenbegrenzungen, Prüfungen politischer oder rufschädigender Inhalte und die Erkennung wiederkehrender plattformübergreifender Muster können das Risiko verringern, dass interne Automatisierung für verdeckte Ansprache zweckentfremdet wird. Diese Kontrollen bestimmen die Absicht des Betreibers nicht allein, können Missbrauch aber sichtbarer machen.

Worauf als Nächstes zu achten ist

Das unmittelbare Signal wird sein, ob OpenAI oder andere Plattformen weitere Konten, Domains oder Kanäle identifizieren, die mit dem International Burke Institute verbunden sind. Forschende sollten zudem prüfen, ob die Telegram-Zielgruppen echte Follower, koordinierte Konten oder brachliegende Infrastruktur darstellen.

Eine zweite Frage ist, ob ähnliche Operationen zunehmend auf Open-Weight-Modelle oder Dienste mit schwächerer Missbrauchsmeldung ausweichen. Das würde testen, ob Sperren auf Plattformebene Kampagnen tatsächlich verlangsamen oder Betreiber lediglich zu anderen Werkzeugen drängen.

Schließlich werden Ermittler auf noch ausgefeiltere Lokalisierung achten: natürlich klingende Übersetzungen, glaubwürdige Autorenprofile und Inhalte, die auf bestimmte politische Gemeinschaften zugeschnitten sind. Die aktuelle Operation zeigte sichtbare Schwächen, doch OpenAIs Warnung ist, dass ihre Infrastruktur hätte skaliert werden können, bevor diese Schwächen behoben wurden.

Creati.ai-Perspektive

Bei diesem Vorfall geht es weniger darum, dass ChatGPT unabhängig Einfluss schafft, als vielmehr darum, dass Betreiber ein Allzweckmodell in ein breiteres Täuschungssystem einbetten. Die gefälschte Institution, gestohlene Forschung, erfundene Identitäten und Verbreitungskanäle sorgten für Glaubwürdigkeit und Reichweite der Kampagne; KI senkte die Kosten für die Erstellung und Anpassung der unterstützenden Inhalte.

Für die KI-Branche besteht die dauerhafte Herausforderung in Zuordnung und Koordination. Kontosperrungen können eine Kampagne von einer Plattform entfernen, doch eine wirksame Abwehr erfordert die Zusammenarbeit von Modellanbietern, sozialen Netzwerken, Forschenden und Ermittlern bei klar abgegrenzten Belegen. OpenAIs Bericht ist bedeutsam, weil er diesen Arbeitsablauf im Detail offenlegt, doch seine eigenen Erkenntnisse zeigen auch, warum ein einzelner Anbieter das volle Ausmaß KI-gestützter Einflussoperationen nicht messen kann.