OpenAI démasque des opérations d'influence russes et iraniennes qui ont placé de fausses informations dans de vrais médias
OpenAI a révélé le démantèlement de deux opérations d'influence, l'une russe et l'autre iranienne, et a banni les comptes impliqués. La campagne russe, baptisée « Dark Clark », a diffusé de la désinformation dans toute l'Amérique latine. Elle a suscité des réactions de responsables politiques, ce qui lui vaut le premier niveau 5 sur 6 jamais attribué dans l'échelle d'évaluation des rapports de l'entreprise. L'opération iranienne, nommée « Bogus Bylines », s'appuyait sur sept faux journalistes. Ces identités fictives ont permis de placer près d'une centaine d'articles dans des médias en ligne du monde entier.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Ces deux cas montrent que les opérations d'influence ne se limitent plus à saturer les réseaux sociaux de messages douteux. Elles cherchent désormais à s'infiltrer dans des publications réelles, où un contenu fabriqué hérite de la crédibilité du support qui l'accueille. Pour les rédactions, cela impose de vérifier plus strictement l'identité des contributeurs externes. Pour les lecteurs, il devient plus difficile de distinguer un article authentique d'une manipulation. Le niveau 5 attribué à « Dark Clark » signale en outre que la désinformation a franchi la sphère des réseaux et touché le débat politique.
Cette annonce s'inscrit dans les publications régulières d'OpenAI sur l'usage malveillant de ses outils par des acteurs liés à des États. Elle illustre le rôle croissant des entreprises d'IA, qui détectent et neutralisent elles-mêmes des campagnes que les autorités peinent à repérer. Le recours à de faux profils de journalistes, déjà observé dans d'autres campagnes, devrait rester une tactique privilégiée, tandis que les médias et les plateformes devront renforcer leurs défenses.
Les rédactions et plateformes européennes sont exposées au même risque de faux contributeurs publiant de la désinformation dans des médias réels.