OpenAI affirme avoir banni des groupes de comptes liés à des opérations d’influence russes et iraniennes qui avaient utilisé ChatGPT pour préparer des rapports internes, retravailler des articles et créer certains contenus trompeurs. Son récit du 8 octobre décrit des campagnes fondées sur de fausses institutions et identités, sans établir l’ampleur réelle de leur audience.

Le grand changement

  • Le rapport présente ChatGPT comme un outil parmi d’autres dans un processus d’influence plus vaste, avec un rôle particulièrement clair dans les rapports internes et la retouche.
  • OpenAI affirme que certains contenus fabriqués sont apparus en ligne et que des opérateurs iraniens ont placé des articles sous de fausses signatures dans de vrais médias ; le récit de l’entreprise constitue la principale source de ces constats.
  • La portée revendiquée par les opérateurs n’était pas fiable. OpenAI indique que certaines affirmations ont été corroborées et d’autres non, et que les indicateurs des opérateurs eux-mêmes ne permettent pas de mesurer l’impact sur le public.

Selon l’entreprise, l’opération russe baptisée « Dark Clark » par OpenAI a surtout utilisé ChatGPT pour rédiger et actualiser des rapports sur la campagne. OpenAI affirme que les opérateurs se sont aussi servis du modèle pour préparer certains faux documents, scripts audio et messages. L’opération aurait agi par l’intermédiaire d’un « groupe de réflexion » appelé Social Research Center, représenté par le personnage fictif « Mia Clark » ; les personnes recrutées en Amérique latine ignoraient peut-être qui contrôlait l’organisation.

OpenAI affirme que ses enquêteurs ont trouvé des exemples de contenus concordants ainsi que des articles de vérificateurs de faits ou de responsables publics. L’un d’eux était une vidéo fabriquée prétendant que l’Équateur recrutait des jeunes pour combattre en Ukraine. L’organisation équatorienne de vérification, Lupa Media , a indiqué séparément que le prétendu reportage de Teleamazonas n’existait pas, que la vidéo utilisait des images volées sur les réseaux sociaux, que l’audio était généré par IA et que l’entreprise citée n’était pas valablement enregistrée. Ces éléments corroborent l’existence et la fabrication d’un contenu similaire, mais ne permettent pas d’établir indépendamment qui l’a commandé ni de prouver tous les éléments du récit d’OpenAI.

Selon OpenAI, l’opération iranienne appelée « Bogus Bylines » a utilisé ChatGPT pour retoucher des articles et propositions longs, rédiger des courriels de prise de contact, générer des séries de commentaires sur les réseaux sociaux et peaufiner des rapports internes. L’entreprise a recensé près de 100 articles publiés ou syndiqués sous sept identités journalistiques inventées dans une douzaine environ de médias, entre juillet 2025 et octobre 2026. Ces chiffres proviennent de l’enquête d’OpenAI. Les articles indépendants consultés pour ce récit rapportent les conclusions de l’entreprise, sans audit séparé de toutes les signatures ou publications.

Le rapport distingue nettement la production des contenus de leur diffusion. OpenAI indique que les commentaires de l’opération iranienne ont été publiés à peu d’intervalle, mais n’a trouvé aucune preuve que ses modèles automatisent les publications. L’entreprise décrit de nombreux commentaires comme ayant suscité peu d’engagement. Les rapports internes des opérateurs comptaient les vues des publications auxquelles ils répondaient, et non celles de leurs réponses, puis comparaient des totaux sur une période non précisée. Cette méthode ne permet pas d’isoler les vues causées par la campagne.

OpenAI a classé l’opération russe en catégorie 5 et l’effort iranien de placement d’articles en catégorie 4 sur la Breakout Scale. Proposée par Brookings en 2020, cette échelle classe les opérations d’influence selon leur propagation observable entre plateformes et communautés, notamment l’entrée de contenus dans les médias traditionnels ou la production d’une attention de haut niveau ou d’actions concrètes. Il s’agit d’évaluations d’OpenAI, et non de mesures indépendantes du nombre de personnes convaincues ou ayant changé de comportement.

Cette distinction importe pour comprendre ce que l’IA générative a changé. Le rapport décrit une assistance à la rédaction, à la retouche, à la traduction, à la création de scripts et aux synthèses internes. Il ne montre pas que ChatGPT a mené les campagnes de façon autonome, choisi les cibles ou contrôlé leur diffusion. Des personnes et des infrastructures classiques ont fourni les fausses identités, les propositions aux médias, les comptes sociaux et les publications. Dans un cas décrit, les opérateurs ont utilisé le modèle pour améliorer et traduire une fausse lettre, puis une image et un audio correspondants sont apparus en ligne. Cette séquence illustre comment un modèle textuel peut soutenir une chaîne de production dirigée par des humains ; elle ne prouve pas qu’il a créé chaque élément du contenu final.

Pour les plateformes et les éditeurs, le problème le plus difficile est donc celui de la provenance et de la coordination, pas seulement la détection de phrases écrites par une machine. Une proposition bien rédigée peut relever d’une aide ordinaire à l’écriture ; le risque change si elle est liée à une signature fictive, un commanditaire caché ou un placement coordonné. De même, un véritable employé peut produire sans le savoir un travail journalistique authentique pour une organisation dont il ne comprend pas le contrôle. Le récit d’OpenAI sur le Social Research Center rend cette possibilité particulièrement pertinente, même si cette caractérisation repose sur les éléments de l’entreprise.

Pour les rédactions, les vérifications pratiques restent familières : confirmer l’identité de l’auteur et le contrôle de l’organisation, contacter les sources par des canaux établis indépendamment, examiner les affirmations et documents à leur origine et ne pas traiter les indicateurs d’engagement comme une preuve d’influence. Le rapport donne des exemples de contournement ou de manipulation de ces vérifications ; il ne mesure pas complètement l’exposition ni les conséquences politiques en aval.

OpenAI affirme avoir banni les groupes de comptes et partagé des informations avec les autorités concernées et des partenaires du secteur. Le rapport public expose en détail l’enquête de l’entreprise, mais ses catégories et attributions de campagnes doivent être lues comme des conclusions d’OpenAI. La vérification indépendante étaye certains exemples précis. La portée totale, la structure complète de contrôle des opérateurs et les effets durables éventuels restent moins certains que les activités observées selon OpenAI.

Sources et lectures complémentaires