OpenAI bannit des comptes ChatGPT liés à la Russie et l'Iran

OpenAI a banni des comptes ChatGPT liés à deux campagnes d'influence distinctes, l'une menée depuis la Russie, l'autre depuis l'Iran. Toutes deux se servaient de l'outil d'IA pour soutenir une propagande diffusée via les réseaux sociaux, des médias en ligne et, dans le cas russe, un faux organisme de recherche.

L'entreprise a décrit ces deux opérations dans un rapport sur la sécurité publié jeudi. Selon elle, leurs auteurs combinaient l'IA avec des tactiques d'influence plus anciennes et plus classiques.

Un faux think tank tourné vers l'Amérique latine

La campagne russe visait des publics dans toute l'Amérique latine. Sa pièce maîtresse était le Social Research Center (SRC), qui se présentait comme une plateforme de recherche consacrée à la diaspora indienne en Amérique latine et aux relations de l'Inde avec les pays de la région.

D'après OpenAI, des agents russes semblaient contrôler le centre au moyen d'une identité fabriquée de toutes pièces. La campagne recrutait aussi des habitants d'Amérique latine pour mener des recherches pour le compte du SRC, apparemment sans leur dire qui se cachait derrière.

"Les éléments disponibles suggèrent que ces employés sur le terrain n'avaient aucune idée qu'ils travaillaient pour une opération russe et qu'ils ont effectué leurs travaux de recherche de bonne foi", a indiqué OpenAI.

Une grande partie des publications du centre ressemblait à des recherches originales rédigées par ces recrues, et non à des textes générés par IA, note le rapport.

L'objectif principal était de nuire à la réputation de l'Ukraine en Amérique latine. Certaines activités semblaient toutefois viser à influencer la politique intérieure de pays comme l'Argentine et la Bolivie.

Les opérateurs ont utilisé ChatGPT pour produire de faux documents prétendument divulgués et des scripts d'enregistrements audio, dont certains ont circulé en ligne. Une partie au moins de ces fausses affirmations s'est suffisamment propagée pour donner lieu à des vérifications des faits et à des démentis officiels.

OpenAI n'a pas attribué la campagne à un acteur malveillant nommément identifié. L'entreprise affirme que les éléments recueillis pointent vers des liens avec une organisation russe connue sous le nom de Politology ou La Compania. Ce groupe serait, selon plusieurs sources, le successeur des opérations d'influence liées à feu l'oligarque russe Evgueni Prigojine et à son groupe Wagner, la société militaire privée.

Les opérateurs s'adressaient surtout à ChatGPT en russe et semblaient se trouver en Russie.

"Comme nous n'autorisons pas l'accès à nos modèles depuis la Russie, ils ont utilisé des VPN pour se connecter à nos services", a précisé OpenAI.

Sept faux journalistes pour placer des articles sur l'Iran

L'opération iranienne fonctionnait autrement. Elle s'appuyait sur sept faux profils de journalistes pour proposer à des publications en ligne des articles sur le conflit entre les États-Unis et l'Iran.

OpenAI a recensé près de 100 articles publiés ou republiés sous ces identités dans une douzaine de médias environ. La plupart étaient des publications de petite et moyenne taille couvrant l'actualité internationale, la géopolitique et le Moyen-Orient. Le plus ancien article date de juillet 2025, le plus récent d'octobre 2026. OpenAI n'a cité aucun de ces médias.

ChatGPT servait à peaufiner de longs articles, à rédiger des propositions adressées aux rédactions et à préparer des rapports internes. Les opérateurs généraient aussi des séries de commentaires pour les réseaux sociaux, en anglais et en persan, sur des sujets politiques et géopolitiques.

Ces commentaires ont eu peu d'écho, avec relativement peu de mentions "J'aime", de vues ou de réponses. Certains des médias qui ont publié les articles disposaient toutefois d'une large audience. L'un d'eux comptait près de 2 millions d'abonnés sur Facebook, selon OpenAI.

Les comptes semblaient provenir d'Iran, utilisaient surtout des requêtes en persan et accédaient à ChatGPT via des VPN. OpenAI n'a pas identifié les personnes ou organisations responsables.

Vieilles recettes, nouveaux outils

Le rapport souligne que les deux campagnes ne se sont pas contentées de faux profils sur les réseaux sociaux et ont eu recours à des organisations en apparence indépendantes pour relayer leurs messages.

"Ce qui frappe le plus dans ces opérations, c'est qu'elles ressemblaient beaucoup aux opérations d'influence complexes de l'ère pré-IA, tout en utilisant l'IA pour faciliter certaines étapes du travail", a déclaré OpenAI.

Notre analyse

Le principal enseignement à retenir, c'est que l'IA n'a pas changé la nature de ces opérations. Elle a changé la vitesse à laquelle elles pouvaient travailler. Les organisations écrans, les recrues locales manipulées à leur insu et les fausses signatures sont des techniques éprouvées de longue date. ChatGPT a surtout aidé à rédiger, à corriger et à produire du contenu en masse.

Cela suggère que les défenseurs et les rédactions ne devraient pas se concentrer uniquement sur la détection de textes écrits par une machine. Dans le cas russe, une grande partie des recherches publiées avait été rédigée par de vraies personnes. Des initiatives comme le tatouage numérique textGrain d'OpenAI peuvent aider dans certains cas, mais elles ne détecteraient pas un contenu écrit de bonne foi par des humains.

Pour les publications de petite et moyenne taille, la campagne iranienne rappelle qu'il faut vérifier les contributeurs pigistes, en particulier ceux qui proposent des sujets de géopolitique.

Il faut aussi noter que le blocage géographique n'a pas servi à grand-chose ici, puisque les deux groupes ont tout simplement utilisé des VPN. Compte tenu également des inquiétudes récentes concernant des agents d'IA qui abusent de plateformes publiques, il sera intéressant de voir si les fournisseurs d'IA s'orientent vers des contrôles plus stricts au niveau des comptes plutôt que de s'en remettre à des restrictions fondées sur la localisation.