Ces russes utilisent ChatGPT pour influencer l’Occident : cette erreur de traduction les trahit
OpenAI a annoncé avoir démantelé un réseau d'influence russophone qui utilisait ChatGPT pour faire passer un faux centre de réflexion pour une organisation sérieuse. Ce prétendu think tank, baptisé International Burke Institute, se présentait comme installé en Israël et affichait un site en ligne depuis février 2025, mais ses publications sur les réseaux sociaux ne sont apparues qu'entre septembre et mai derniers. En réalité, l'organisation recyclait massivement du contenu existant : sur 36 textes analysés par OpenAI, 34 provenaient de publications déjà en ligne, republiées sous de fausses signatures, certaines attribuées à des experts déjà décédés au moment de la parution. L'institut proposait aussi un classement fantaisiste, le Burke Sovereignty Index, censé mesurer la souveraineté des États, où le Vatican devançait l'Espagne, et dont les analyses adoptaient une ligne favorable à la Russie tout en critiquant durement la France et la politique allemande envers l'Ukraine. Les contenus, rédigés en russe puis traduits par ChatGPT, étaient diffusés en plusieurs langues sur Substack, Telegram, X, Facebook et LinkedIn, avec pour cibles principales les États-Unis, la France, la Pologne et la Turquie.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Cette affaire illustre à quel point les outils d'IA générative abaissent le coût et la technicité nécessaires pour monter des campagnes de désinformation crédibles à grande échelle. ChatGPT ne se contentait pas de traduire : il rédigeait les publications annonçant les articles, répondait aux messages sur d'autres comptes et avait même généré les logos d'une douzaine de chaînes Telegram liées au réseau. Fait notable, ces chaînes Telegram, comptant chacune entre 10 000 et 20 000 abonnés, fonctionnaient mieux que les comptes officiels de l'institut sur les plateformes occidentales, qui ne récoltaient que quelques dizaines de vues par publication. Pour les entreprises d'IA comme OpenAI, l'épisode montre la difficulté à détecter ce type d'usage détourné avant qu'il ne prenne de l'ampleur, et pour les utilisateurs occidentaux de réseaux sociaux, il rappelle la nécessité de vérifier la source réelle des contenus présentés comme des analyses d'experts indépendants.
C'est paradoxalement une maladresse linguistique qui a permis de démasquer l'opération : dans un texte consacré à la coalition gouvernementale allemande, les rédacteurs ont utilisé l'expression "Svetofor coalition" au lieu du terme allemand correct, "Ampelkoalition", "svetofor" signifiant "feu tricolore" dans plusieurs langues slaves, un indice qui a trahi l'origine russe du contenu. Les opérateurs contournaient par ailleurs le blocage de ChatGPT en Russie via des VPN, avec plusieurs comptes désormais fermés par OpenAI. Cette découverte s'inscrit dans une surveillance de longue haleine : depuis mai 2024, l'entreprise publie régulièrement des rapports sur les opérations d'influence exploitant ses outils. Elle avait alors identifié cinq réseaux, dont deux russes, ainsi que le réseau chinois Spamouflage et l'israélien STOIC, puis plus tard Storm-2035, un réseau iranien actif depuis 2020 diffusant ses contenus via de faux sites d'information. L'International Burke Institute vient ainsi allonger la liste des tentatives d'instrumentalisation de l'IA générative à des fins géopolitiques, un enjeu appelé à s'intensifier à mesure que ces outils deviennent plus performants et plus accessibles.
La France figure parmi les cibles principales de cette campagne de désinformation russe, dont les contenus critiquaient directement sa politique.