Des images de propagande iranienne générées par IA se retrouvent dans un grand média allemand

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA — facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes — une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période. Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel. L'IWF, fondée en 1996 et membre du réseau international INHOPE — auquel appartient également l'association française Point de Contact —, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

Vinted : une nouvelle arnaque générée par l’IA fait des ravages

Sur Vinted, une nouvelle forme d'arnaque émerge : des acheteurs malveillants utilisent des générateurs d'images IA pour fabriquer de fausses preuves de colis endommagés. Grâce à ces images truquées, ils obtiennent des remboursements abusifs au détriment des vendeurs honnêtes.

Des influenceurs générés par IA inondent les réseaux sociaux de contenus pro-Trump avant les midterms

Des centaines d'avatars générés par intelligence artificielle inondent TikTok, Instagram et YouTube avec des messages de soutien à Donald Trump à l'approche des élections de mi-mandat américaines. Certains de ces comptes ont déjà accumulé plus de 35 000 abonnés et engrangé des millions de vues. Trump lui-même a partagé du contenu produit par IA, ce qui a contribué à amplifier leur portée. L'origine de cette vague reste floue : s'agit-il d'initiatives d'activistes individuels ou d'une campagne coordonnée, personne ne le sait encore avec certitude. Ce phénomène soulève des questions majeures sur l'intégrité de l'information politique en ligne. Des influenceurs virtuels, indiscernables de vraies personnes, peuvent diffuser des messages partisans à grande échelle, sans les contraintes légales ou éthiques qui s'appliquent aux acteurs humains. Pour les plateformes comme TikTok et Meta, la détection et la modération de ce type de contenu représentent un défi technique et politique considérable, d'autant que les algorithmes de recommandation amplifient naturellement les contenus engageants, quelle que soit leur origine. L'utilisation de l'IA à des fins de propagande politique n'est pas nouvelle, mais la facilité avec laquelle ces avatars peuvent être créés et déployés massivement marque un tournant. Après les controverses autour des ingérences étrangères lors des élections de 2016 et 2020, les autorités américaines et les plateformes ont renforcé leurs politiques, sans pour autant anticiper ce scénario. La question de la transparence sur l'origine artificielle du contenu politique devient désormais centrale pour les régulateurs et les législateurs aux États-Unis comme en Europe.

💬 On savait que ça allait arriver, mais la vitesse, là, ça surprend quand même. Des centaines de comptes coordonnés, des millions de vues en quelques semaines, c'est plus de l'expérimentation isolée, c'est une chaîne de production. Le DSA impose le marquage des contenus synthétiques, sur le papier c'est exactement pour ça qu'il existe, mais modérer à cette échelle sur TikTok sans faux positifs massifs, personne ne l'a encore réussi.

Le portail d’actualités MSN de Microsoft rémunère une quarantaine de médias générés par IA

Le portail d'actualités MSN de Microsoft, intégré par défaut dans le widget Actualités de tous les PC sous Windows, rémunère une quarantaine de médias dont le contenu est entièrement ou majoritairement généré par intelligence artificielle, selon une enquête récente. Cette pratique contrevient aux propres lignes directrices de Microsoft, qui affirme pourtant travailler avec plus de 1 300 éditeurs de presse représentant plus de 4 500 marques à l'échelle mondiale pour offrir « le meilleur des informations en ligne ». Le portail revendique combiner algorithmes et modération humaine pour garantir des contenus conformes à ses valeurs, mais la page de présentation de sa direction éditoriale liste quatre responsables dont aucun ne travaille plus pour l'entreprise depuis 2022, 2023 ou 2024. Par ailleurs, MSN diffuse massivement des vidéos à caractère conspirationniste et favorise de manière disproportionnée les contenus de CNews, la chaîne du groupe Bolloré reconvertie en média d'opinion. Le problème dépasse la simple incohérence éditoriale : en finançant des sites automatisés via des accords de partenariat, Microsoft contribue directement à monétiser la désinformation industrielle et à fragiliser les médias traditionnels qui investissent dans des journalistes humains. Le widget Actualités de Windows étant préinstallé sur des centaines de millions de machines, la portée de ces recommandations est considérable. Des millions d'utilisateurs reçoivent ainsi, sans le savoir, un flux mêlant sources vérifiées et contenus produits à la chaîne par des IA, sans distinction apparente de fiabilité. Cette situation s'inscrit dans une trajectoire entamée en 2020, lorsque Microsoft avait licencié près de 80 journalistes constituant ses équipes éditoriales américaine et britannique, confiant intégralement la curation à des algorithmes. Ce virage vers l'automatisation, présenté à l'époque comme une modernisation, a ouvert la porte à des dérives que la plateforme ne semble ni surveiller ni corriger. La question de la responsabilité des agrégateurs technologiques dans la qualité de l'information distribuée est au coeur de débats réglementaires en Europe, notamment autour du Digital Services Act. Le cas MSN illustre la tension entre la logique économique des plateformes, qui profitent du trafic généré par tout contenu engageant quelle qu'en soit la source, et les engagements de qualité qu'elles affichent publiquement. Aucune réaction officielle de Microsoft n'avait été communiquée au moment de la publication de l'enquête.