Des images de propagande iranienne générées par IA se retrouvent dans un grand média allemand

L'image générée par IA dans Google Earth pose problème

Google Earth intègre désormais un générateur d'images par intelligence artificielle qui permet de créer des visuels réalistes à partir d'un simple texte, en s'appuyant sur les imageries satellite, aérienne et 3D de la plateforme. Le chercheur Henk van Ess, du site Digital Digging, a démontré les risques de cet outil baptisé Nano Banana en générant des images trompeuses : l'une montre de prétendus "réfugiés près de la frontière mexicaine", une autre simule un cratère de bombe près d'un hôpital à Gaza. Ces images, bien que fabriquées de toutes pièces, apparaissent avec un réalisme suffisant pour être confondues avec de véritables clichés satellites. Face à ces révélations, Google a répondu que chaque image générée avec Nano Banana dans Google Earth intègre le filigrane numérique SynthID, permettant de vérifier son authenticité via l'application Gemini ou l'outil Lens de la recherche Google. Cette affaire illustre un problème majeur à l'heure où la désinformation visuelle se propage rapidement sur les réseaux sociaux, notamment autour de sujets sensibles comme les crises migratoires ou les conflits armés. Des images générées par IA calquées sur de vraies coordonnées géographiques pourraient être utilisées pour fabriquer de fausses preuves, alimenter des récits politiques trompeurs, ou discréditer des zones de conflit réelles, avec des conséquences potentiellement graves sur l'opinion publique et les décisions politiques. L'incident s'inscrit dans un débat plus large sur la responsabilité des géants technologiques qui déploient des outils génératifs puissants sans toujours anticiper leurs usages détournés. Le tag "@verifyai" et le watermark SynthID constituent des garde-fous, mais leur efficacité dépend de la vigilance des utilisateurs et des plateformes de diffusion, posant la question de la régulation future de ces technologies.

💬 Google intègre un générateur d'images dans Earth et se dit protégé grâce au watermark SynthID, sauf que ça ne marche que si quelqu'un pense à vérifier. Une fausse image satellite d'un cratère près d'un hôpital à Gaza, ça se propage bien plus vite que le réflexe de la checker sur Gemini ou Lens. Le vrai problème n'est pas l'outil, c'est que Google a mis la charge de la vérité sur l'utilisateur final au lieu de la bloquer à la source.

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA, facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes, une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période. Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel. L'IWF, fondée en 1996 et membre du réseau international INHOPE, auquel appartient également l'association française Point de Contact, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

Vinted : une nouvelle arnaque générée par l’IA fait des ravages

Sur Vinted, une nouvelle forme d'arnaque émerge : des acheteurs malveillants utilisent des générateurs d'images IA pour fabriquer de fausses preuves de colis endommagés. Grâce à ces images truquées, ils obtiennent des remboursements abusifs au détriment des vendeurs honnêtes.

☕️ Google généralise le signalement des publicités générées par IA

Google, l'une des plus grandes régies publicitaires au monde, va généraliser le signalement des publicités créées ou modifiées par intelligence artificielle générative sur ses services de recherche, Discover et YouTube. Le panneau « Mes préférences publicitaires », déjà accessible en touchant les trois petits points sous une annonce ou son icône d'information, va intégrer une nouvelle catégorie baptisée « Comment cette annonce est faite », qui précisera si le contenu a été généré ou édité avec de l'IA. Lorsqu'un annonceur utilise les outils d'IA maison de Google, la mention sera ajoutée automatiquement. Si des outils tiers ont servi à produire une publicité diffusée sur les espaces de Google, l'annonceur pourra volontairement préciser le recours à l'IA. Selon les exigences locales, une étiquette pourra aussi apparaître directement sur la publicité elle-même, de façon automatique ou à l'initiative de l'annonceur. Cette généralisation s'appuie sur une règle déjà en vigueur depuis 2023, qui imposait le signalement des contenus IA ou numériquement altérés dans les publicités électorales. Cette évolution répond à un problème concret : les outils d'IA générative permettent désormais à n'importe quel annonceur de produire des visuels et vidéos publicitaires quasiment indiscernables de contenus authentiques. Si Google interdit officiellement les publicités trompeuses ou mensongères, rien n'empêche un annonceur de recourir à l'IA pour créer des contenus lourdement retouchés, brouillant la frontière entre mise en valeur légitime d'un produit et tromperie pure. Pour l'internaute, qui n'a souvent aucun moyen de vérifier l'origine d'une image ou d'une vidéo publicitaire, cette opacité complique l'exercice d'un jugement éclairé. En rendant visible l'usage de l'IA, Google cherche à redonner aux utilisateurs un repère minimal pour évaluer ce qu'ils voient, sans pour autant interdire la pratique elle-même, ce qui laisse une marge d'appréciation importante aux annonceurs sur le degré de retouche à signaler. Cette annonce s'inscrit dans un mouvement plus large de la part des grandes plateformes pour encadrer la publicité générée par IA, sur fond d'inquiétudes autour de la désinformation, notamment en période électorale : une enquête a récemment révélé que 16 % des électeurs ont consulté une IA pour savoir pour qui voter aux dernières municipales. Meta a mis en place un dispositif comparable, avec une étiquette « Infos IA » obligatoire pour les publicités politiques utilisant des contenus audio, vidéo ou images générés ou modifiés par IA, et une signalisation plus générale pour les autres publicités utilisant des outils maison ou tiers. Selon la fiche d'assistance de Meta, mise à jour il y a cinq semaines, le déploiement reste toutefois partiel, si bien que toutes les publicités concernées ne portent pas encore systématiquement la mention. Reste à savoir si ces mesures, encore largement déclaratives et dépendantes de la bonne foi des annonceurs, suffiront à contenir la multiplication des contenus publicitaires synthétiques à mesure que les outils de génération deviennent plus accessibles et plus convaincants.

💬 Enfin un peu de transparence sur un truc qui était devenu incontrôlable. La pub générée par IA est déjà indiscernable d'un vrai visuel, et Google se contente d'une étiquette qui dépend en grande partie de la bonne foi de l'annonceur, pas d'un contrôle systématique. Le vrai signal, c'est que ça arrive juste avant les municipales où 16% des électeurs ont consulté une IA pour choisir leur vote : la publicité électorale synthétique n'est plus une hypothèse, c'est le sujet du moment.