« L’image la plus horrible de ce 17 octobre » émanait d’un site d’info généré par IA
Le week-end du 17 octobre, une photo présentée comme montrant un couple de 80 ans en sous-vêtements, prétendument dépouillé par des casseurs en marge des manifestations place de la République à Paris, a été partagée des millions de fois dans le monde. Elle a été générée par intelligence artificielle, et le parquet de Paris dément les faits qu'elle prétendait illustrer. Les Observateurs de France 24 ont établi qu'elle provenait d'un site d'information pro-israélien relayant de nombreux récits d'extrême droite. Ce site figurait depuis plus d'un an et demi dans la base de données de Next, qui recense les sites d'information produits en tout ou partie par IA. Le journaliste des Observateurs avait installé l'extension gratuite développée par Next, qui affiche une alerte lorsqu'un site publie une majorité d'articles apparemment générés par IA sans le dire. Le tweet qui a rendu l'image virale, publié depuis Israël par une militante d'extrême droite et présentant la photo comme « l'image la plus horrible de ce 17 octobre », cumule plus de 60 000 partages, 160 000 likes et 6 millions de vues, sans mentionner son origine artificielle. Il a été repris par plusieurs figures d'extrême droite, dont l'influenceur complotiste Sirènes et Alice Cordier, présidente du collectif identitaire Némésis. Des personnalités internationales comme le Britannique Tommy Robinson et le compte ultraconservateur polonais Visegrad 24 l'ont aussi relayé.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cet épisode montre concrètement ce que les sites d'information générés par IA peuvent produire. Jusqu'ici, Next avait documenté à plusieurs reprises leur capacité à relayer de fausses informations. Cette affaire est la première à démontrer à ce point qu'ils servent d'armes de désinformation massive. Une image fabriquée, sans lien avec un événement réel, a suffi à nourrir un récit politique outre-Atlantique comme en Europe, au moment où l'émotion était vive. Pour les lecteurs, la difficulté est double. Rien n'indique sur l'image qu'elle est synthétique, et le site qui la publie ressemble à un média ordinaire. Pour les rédactions et les fact-checkeurs, la charge de vérification augmente, alors que chaque démenti arrive après la viralité. L'affaire souligne aussi l'utilité d'outils de signalement accessibles au grand public, comme l'extension de Next, qui a ici permis de remonter à la source.
Cette désinformation s'inscrit dans une enquête au long cours de Next, entamée il y a plus d'un an et demi. Elle a déjà identifié plus de 19 500 sites d'information générés par IA rien qu'en français et donné lieu à près d'une soixantaine d'articles. Le site en cause avait déjà été épinglé en 2024 sur Facebook pour avoir partagé de fausses informations laissant croire que l'extrême gauche mettait le feu à Paris. La stratégie rappelle la formule de Steve Bannon, ex-conseiller de Donald Trump, pour qui « la véritable opposition, ce sont les médias » et qu'il faut les traiter en « inondant la zone avec de la merde » (« Flood the zone with shit »). La production automatisée de contenus à bas coût rend cette saturation du débat public plus facile que jamais. Les suites dépendront de la capacité des plateformes à repérer ces sites, de la pression réglementaire sur l'étiquetage des contenus synthétiques et de la vigilance de ceux qui partagent ces images sans les vérifier.
Une fausse image générée par IA a circulé à des millions d'exemplaires autour des manifestations parisiennes du 17 octobre, relayée par des figures d'extrême droite françaises, et a été démasquée grâce à l'extension du média français Next.