Un rapport publié mardi 25 août par OpenAI révèle qu'un groupe d'opérateurs basés en Russie a détourné des comptes ChatGPT pour fabriquer des messages de propagande prorusses, ensuite diffusés sur plusieurs chaînes Telegram et utilisés pour promouvoir un think tank se présentant, à tort, comme israélien.
Des comptes dissimulés derrière un VPN
Selon les équipes de sécurité d'OpenAI, ce petit groupe d'opérateurs, localisé en Russie et masqué derrière un réseau privé virtuel, utilisait des comptes ChatGPT pour produire des messages de propagande rédigés dans plusieurs langues. « La plupart étaient en anglais, et les opérateurs ont demandé régulièrement à ChatGPT de cacher les indices linguistiques qui auraient pu montrer qu'ils étaient russes », écrivent les chercheurs en sécurité de l'entreprise dans leur rapport, publié le jour même de sa découverte.
Les équipes d'OpenAI ont ensuite retrouvé ces mêmes messages, traduits en anglais, en allemand et en français, publiés sur différents canaux Telegram. Ces contenus, selon le rapport, dépeignaient un Occident présenté comme décadent, face à une Russie décrite comme une alternative grandiose. Ce type de narratif reprend des lignes de discours déjà bien documentées dans plusieurs opérations d'influence prorusses identifiées ces dernières années par des chercheurs indépendants et par les plateformes elles mêmes.
Un faux think tank se présentant comme israélien
Fait plus surprenant relevé par le rapport, ces comptes n'ont pas seulement servi à produire les poncifs habituels de la propagande russe. Ils ont également été utilisés pour rédiger des textes et générer des visuels destinés à promouvoir un think tank baptisé International Burke Institute (IBI), qui se présente publiquement comme une organisation israélienne. Cette utilisation d'une fausse façade institutionnelle, se réclamant d'un pays tiers sans lien apparent avec la Russie, illustre une sophistication croissante des opérations de désinformation, qui cherchent de plus en plus à brouiller l'origine réelle des messages diffusés.
La création de fausses structures à l'apparence crédible, qu'il s'agisse de think tanks, de médias ou d'associations, pour légitimer un discours de propagande n'est pas une pratique nouvelle. Elle avait déjà été documentée dans le cadre de l'opération connue sous le nom de Doppelganger, attribuée à des réseaux proches du Kremlin et consistant notamment à imiter l'apparence de médias occidentaux reconnus pour diffuser de faux articles. Le recours à un outil d'intelligence artificielle générative comme ChatGPT permettrait toutefois d'industrialiser et d'accélérer considérablement la production de ce type de contenu, en particulier sa traduction simultanée dans de nombreuses langues.
Une pratique de plus en plus surveillée par les grandes plateformes d'IA
Depuis 2024, OpenAI publie régulièrement des rapports de ce type, documentant la manière dont des acteurs liés à la Russie, à la Chine, à l'Iran ou à la Corée du Nord tentent de détourner ses outils à des fins d'influence politique ou de désinformation. Ces publications s'inscrivent dans un mouvement plus large de transparence de la part des grandes entreprises d'intelligence artificielle et des réseaux sociaux, qui publient de plus en plus fréquemment des rapports de ce type après avoir démantelé des réseaux de comptes suspects, qu'il s'agisse de Meta, de Google ou de X.
Ces opérations d'influence assistées par l'intelligence artificielle générative posent un défi inédit aux équipes de modération et de sécurité. La capacité de ces outils à produire, en quelques secondes, des textes convaincants dans plusieurs langues, ainsi que des visuels ou de courtes vidéos, réduit considérablement le coût et le temps nécessaires pour mener une campagne de désinformation à grande échelle. Les chercheurs en sécurité insistent régulièrement sur la nécessité de combiner une détection technique fine, au niveau des comptes et des schémas d'utilisation, avec un travail d'enquête plus classique pour remonter jusqu'aux structures de façade utilisées pour diffuser les contenus produits.
OpenAI revendique une vigilance renforcée
Dans son rapport, OpenAI insiste sur le fait que ce type de détection repose sur une surveillance continue des schémas d'utilisation inhabituels de ses outils, plutôt que sur un contrôle systématique du contenu de chaque conversation, ce qui poserait d'importants problèmes de confidentialité pour l'ensemble de ses utilisateurs. L'entreprise affirme avoir suspendu les comptes identifiés comme appartenant à ce réseau dès leur détection, et avoir partagé certains éléments de son enquête avec des chercheurs externes spécialisés dans la lutte contre la désinformation.
Cette affaire intervient alors que la question de l'utilisation malveillante de l'intelligence artificielle générative dans les conflits informationnels internationaux occupe une place croissante dans le débat public, qu'il s'agisse des tensions autour du conflit russo-ukrainien, des guerres au Proche-Orient ou des échéances électorales à venir dans plusieurs pays occidentaux. Pour les chercheurs spécialisés, la multiplication de ce type de rapport, aussi bien du côté des éditeurs de modèles d'intelligence artificielle que des plateformes sociales, illustre à quel point la frontière entre outils grand public et arsenal de la guerre de l'information s'est réduite ces dernières années.
Cette dynamique interroge également le rôle des utilisateurs eux mêmes, souvent invités par ces mêmes outils à mieux vérifier l'origine des contenus qu'ils partagent en ligne. Plusieurs organisations de vérification des faits recommandent désormais une vigilance particulière face à des sites ou des organismes peu connus revendiquant une expertise géopolitique, en particulier lorsque leurs publications relaient sans nuance un discours favorable à une puissance étrangère précise.
En Europe, ce type de révélation intervient alors que le règlement sur les services numériques (Digital Services Act) impose désormais aux grandes plateformes en ligne de mettre en place des dispositifs de lutte contre la désinformation et les manipulations de l'information, sous peine de sanctions financières pouvant atteindre plusieurs pourcents de leur chiffre d'affaires mondial. Si ChatGPT n'est pas directement soumis aux mêmes obligations qu'un réseau social au sens strict du texte européen, la diffusion de contenus générés par ce type d'outil sur des plateformes sociales relève bien du périmètre de surveillance visé par la régulation.
Plusieurs chercheurs en désinformation rappellent que la détection de ce type de réseau reste un jeu du chat et de la souris permanent : à mesure que les plateformes améliorent leurs outils de détection, les opérateurs malveillants adaptent leurs méthodes, multiplient les comptes et diversifient les canaux de diffusion pour limiter l'impact d'un démantèlement ponctuel. C'est notamment pour cette raison qu'OpenAI, comme ses concurrents, choisit de publier ce type de rapport de manière régulière plutôt que de se contenter d'une communication ponctuelle après chaque découverte.
Source : d'après Le Monde et le rapport publié par OpenAI le 25 août 2026.
%20front.jpg)
