OpenAI sperrt ChatGPT-Konten russischer und iranischer Netze

OpenAI hat ChatGPT-Konten gesperrt, die mit zwei getrennten Einflusskampagnen in Verbindung stehen, eine aus Russland und eine aus dem Iran gesteuert. Beide nutzten das KI-Werkzeug, um Propaganda zu unterstützen, die über soziale Medien, Nachrichtenseiten und im russischen Fall über eine erfundene Forschungsorganisation verbreitet wurde.

Das Unternehmen beschrieb beide Operationen in einem Sicherheitsbericht, der am Donnerstag veröffentlicht wurde. Demnach kombinierten die Betreiber KI mit älteren, eher herkömmlichen Methoden der Einflussnahme.

Eine falsche Denkfabrik mit Blick auf Lateinamerika

Die russische Kampagne richtete sich an ein Publikum in ganz Lateinamerika. Im Mittelpunkt stand das Social Research Center (SRC), das sich als Forschungsplattform ausgab, die sich mit der indischen Diaspora in Lateinamerika und den Beziehungen Indiens zu Ländern der Region befasst.

Laut OpenAI kontrollierten russische Akteure das Zentrum offenbar über eine erfundene Identität. Die Kampagne warb außerdem Menschen vor Ort in Lateinamerika an, die für das SRC Recherchen durchführten, offenbar ohne zu erfahren, wer dahintersteckte.

"Die verfügbaren Hinweise deuten darauf hin, dass diese Mitarbeiter vor Ort keine Ahnung hatten, dass sie für eine russische Operation arbeiteten, und ihre Rechercheaufgaben in gutem Glauben erledigten", erklärte OpenAI.

Vieles von dem, was das Zentrum veröffentlichte, wirkte wie eigenständige Forschung, die von diesen Angeworbenen verfasst wurde, und nicht wie KI-generierter Text, heißt es in dem Bericht.

Hauptziel war es, dem Ansehen der Ukraine in Lateinamerika zu schaden. Einige Aktivitäten schienen allerdings darauf abzuzielen, die Innenpolitik in Ländern wie Argentinien und Bolivien zu beeinflussen.

Die Betreiber nutzten ChatGPT, um gefälschte geleakte Dokumente und Skripte für Audioaufnahmen zu erstellen, von denen einige im Netz kursierten. Zumindest einige der Falschbehauptungen verbreiteten sich so weit, dass sie Faktenchecks und offizielle Dementis auslösten.

OpenAI ordnete die Kampagne keinem namentlich bekannten Bedrohungsakteur zu. Hinweise deuteten jedoch auf Verbindungen zu einer russischen Organisation hin, die als Politology oder La Compania bekannt ist. Diese Gruppe gilt Berichten zufolge als Nachfolgerin von Einflussoperationen, die mit dem inzwischen verstorbenen russischen Oligarchen Jewgeni Prigoschin und seiner Wagner-Gruppe, dem privaten Militärunternehmen, in Verbindung standen.

Die Betreiber schrieben ChatGPT überwiegend auf Russisch an und saßen offenbar in Russland.

"Da wir keinen Zugriff auf unsere Modelle aus Russland erlauben, nutzten sie VPNs, um sich mit unseren Diensten zu verbinden", so OpenAI.

Sieben falsche Journalisten bieten Iran-Geschichten an

Die iranische Operation funktionierte anders. Sie setzte auf sieben erfundene Journalistenidentitäten, die Online-Medien Artikel über den Konflikt zwischen den USA und dem Iran anboten.

OpenAI fand fast 100 Artikel, die unter diesen Identitäten bei rund einem Dutzend Medien veröffentlicht oder erneut veröffentlicht wurden. Die meisten davon waren kleine und mittelgroße Publikationen, die über internationale Angelegenheiten, Geopolitik und den Nahen Osten berichten. Der früheste Artikel stammt vom Juli 2025, der jüngste vom Oktober 2026. OpenAI nannte keines der Medien.

ChatGPT wurde genutzt, um lange Artikel zu überarbeiten, Angebote an Redaktionen zu schreiben und interne Berichte zu entwerfen. Die Betreiber erzeugten außerdem ganze Stapel von Kommentaren für soziale Medien auf Englisch und Persisch zu politischen und geopolitischen Themen.

Diese Kommentare fanden wenig Anklang und erhielten vergleichsweise wenige Likes, Aufrufe oder Antworten. Einige der Medien, die die Artikel brachten, hatten allerdings eine große Reichweite. Eines kam laut OpenAI auf fast 2 Millionen Follower bei Facebook.

Die Konten stammten offenbar aus dem Iran, nutzten überwiegend persischsprachige Prompts und griffen über VPNs auf ChatGPT zu. OpenAI nannte die verantwortlichen Personen oder Organisationen nicht.

Altes Drehbuch, neue Werkzeuge

Der Bericht hebt hervor, dass beide Kampagnen über gefälschte Social-Media-Profile hinausgingen und scheinbar unabhängige Organisationen nutzten, um ihre Botschaften zu transportieren.

"Am auffälligsten an diesen Operationen ist, dass sie komplexen Einflussoperationen aus der Zeit vor der KI stark ähnelten, aber KI nutzten, um einige Arbeitsabläufe zu erleichtern", erklärte OpenAI.

Unsere Einschätzung

Die wichtigste Erkenntnis ist hier, dass KI nicht verändert hat, was diese Operationen waren. Sie hat verändert, wie schnell sie arbeiten konnten. Tarnorganisationen, ahnungslose lokale Helfer und falsche Autorennamen sind seit Langem etablierte Methoden. ChatGPT half vor allem beim Entwerfen, Redigieren und bei der Produktion von Inhalten in großer Menge.

Das legt nahe, dass sich Verteidiger und Redaktionen nicht nur darauf konzentrieren sollten, maschinell geschriebene Texte zu erkennen. Im russischen Fall stammte ein Großteil der veröffentlichten Forschung von echten Menschen. Ansätze wie OpenAIs textGrain-Wasserzeichen können in manchen Fällen helfen, würden aber keine Inhalte erfassen, die Menschen in gutem Glauben geschrieben haben.

Für kleine und mittelgroße Publikationen ist die iranische Kampagne eine Mahnung, freie Mitarbeiter zu überprüfen, vor allem solche, die Themen zur Geopolitik anbieten.

Bemerkenswert ist auch, dass Geoblocking hier wenig gebracht hat, da beide Gruppen einfach VPNs nutzten. Zusammen mit den jüngsten Bedenken über KI-Agenten, die öffentliche Plattformen missbrauchen, lohnt es sich zu beobachten, ob KI-Anbieter auf strengere Kontrollen auf Kontoebene setzen, statt sich auf standortbasierte Beschränkungen zu verlassen.