Google offre l'outil le plus simple pour créer de fausses images satellite, puis le retire après deux jours

Google Earth a risqué sa réputation avec un outil IA retiré, générant de fausses images satellite

Google a brièvement autorisé n'importe quel utilisateur à créer des versions modifiées par intelligence artificielle des images satellite disponibles sur Google Earth, avant de revenir rapidement sur cette décision. La fonctionnalité s'appuyait sur Nano Banana 2, le générateur d'images IA de Google, intégré directement à Google Earth. Bryan Horowitz, chef de produit pour Google Earth, l'avait présentée dans un billet de blog publié le 30 juillet, expliquant que les utilisateurs pouvaient "pour la première fois générer des images personnalisées en combinant l'imagerie satellite, aérienne et 3D de Google Earth avec Nano Banana, qui crée des concepts ancrés dans le monde réel". L'entreprise a fait machine arrière quelques jours seulement après le lancement, alors que des internautes commençaient à partager en ligne des exemples d'images générées qui illustraient concrètement le risque de désinformation et de manipulation visuelle. Ce retrait rapide souligne un problème que Google connaissait probablement mais avait sous-estimé : rendre aussi simple et accessible la modification d'images satellite de lieux réels et identifiables ouvre la porte à des usages malveillants, qu'il s'agisse de fabriquer de fausses preuves de catastrophes, de falsifier l'apparence d'infrastructures sensibles ou de créer des contenus trompeurs sur des zones géographiques précises. Contrairement à d'autres outils génératifs qui produisent des images fictives, la fonctionnalité de Google Earth partait d'une base authentique et vérifiable, ce qui rendait les manipulations potentiellement plus crédibles et donc plus dangereuses pour la désinformation. Cet épisode s'inscrit dans un débat plus large sur la responsabilité des grandes entreprises technologiques lorsqu'elles déploient des outils d'IA générative sans garde-fous suffisants. Si de nombreuses applications permettent déjà de modifier des images de bâtiments ou de villes réelles à partir de simples requêtes textuelles, l'association de Nano Banana 2 à la base de données géographique massive et fiable de Google Earth représentait un cas particulièrement sensible. Le retrait précipité de la fonctionnalité, à peine quelques jours après son annonce, laisse penser que Google devra revoir ses garde-fous avant d'envisager une réintégration, dans un contexte où les régulateurs et le public scrutent de plus en plus les risques de manipulation visuelle liés à l'IA générative.

💬 Google a lâché en quelques jours une feature qui aurait dû rester dans les cartons jusqu'à ce que la question des garde-fous soit réglée. Le truc, c'est que ça partait d'images satellite réelles et vérifiées, donc les manipulations générées héritent de cette crédibilité, contrairement à un simple générateur d'images bidon. Ce que révèle cet épisode, c'est que même les boîtes qui maîtrisent le mieux les données géographiques peuvent sous-estimer à quel point rendre la falsification accessible change la donne pour la désinformation.

Google Earth : l'outil de deepfakes par IA n'a duré qu'un jour

Pompeii réimaginée grâce à Nano Banana 2 dans Google Earth: Google a lancé jeudi un outil permettant aux utilisateurs de modifier les images satellite de Google Earth via des prompts textuels, avant de le retirer dès le lendemain, vendredi. La fonctionnalité s'appuyait sur le modèle de génération d'images Nano Banana 2 et permettait de transformer des lieux réels par simple description écrite. Le journaliste Henk van Ess, du site Digital Digging, a testé l'outil en générant délibérément des images trompeuses, notamment des réfugiés près de la frontière mexicaine et un cratère de bombe à proximité d'un hôpital à Gaza. Interrogé jeudi, Google avait d'abord répondu que les images créées via Nano Banana 2 comportaient un filigrane numérique et que l'entreprise empêchait la "création d'images sur des sujets sensibles". Vingt-quatre heures plus tard, la position de Google avait changé et l'outil était suspendu. Cet épisode illustre la difficulté des grandes entreprises technologiques à anticiper les usages détournés de leurs outils d'IA générative, même lorsque des garde-fous sont annoncés en amont. En permettant de créer de faux contenus visuels superposés à des images satellite réelles et reconnaissables, Google Earth offrait un vecteur de désinformation particulièrement crédible: des lieux authentiques, modifiés pour montrer des événements qui ne s'y sont jamais produits. Le filigrane numérique, présenté comme une garantie de transparence, n'empêchait ni la création ni la diffusion de ces images trompeuses, notamment sur des sujets géopolitiquement sensibles comme l'immigration ou les conflits armés. Cette affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA face aux deepfakes, alors que des outils de génération d'images de plus en plus réalistes se multiplient chez Google, OpenAI ou Meta. Le retrait rapide de la fonctionnalité, moins de 24 heures après son lancement, suggère que Google a sous-estimé les risques de désinformation avant la mise en ligne, malgré ses propres garde-fous annoncés. Reste à savoir si l'entreprise réintroduira l'outil avec des restrictions renforcées ou l'abandonnera définitivement, dans un contexte où la pression réglementaire sur l'IA générative continue de s'intensifier en Europe comme aux États-Unis.

💬 Google a lancé Nano Banana 2 dans Google Earth, un mec a testé le truc en générant des réfugiés à la frontière mexicaine et un cratère de bombe près d'un hôpital à Gaza, et 24h après l'outil était mort. Le filigrane numérique qu'ils brandissaient comme garde-fou, c'est du flan : ça n'empêche ni de créer l'image trompeuse ni de la balancer partout, et une photo satellite d'un lieu réel avec un faux événement dessus, c'est autrement plus crédible qu'un deepfake classique. Selon Le Fil IA, le vrai risque des deepfakes IA n'est plus la fausse image isolée, mais sa capacité à se superposer à un lieu réel et reconnaissable pour raconter un événement qui n'a jamais eu lieu.

L'homme utilise Grok pour créer 7 000 images sexuelles de sa belle-fille, puis se suicide

Une plainte collective déposée contre X et xAI a été élargie mardi, avec un cas parmi les plus glaçants recensés jusqu'ici. Selon la version amendée de la plainte, un beau-père a utilisé le chatbot Grok pour générer 7 000 images sexuellement explicites de sa belle-fille, à partir d'une seule photo prise quand elle avait 11 ans. L'outil aurait permis de produire des contenus extrêmes, y compris des scènes d'inceste et de viol, sans déclencher la moindre alerte. Le système de sécurité enfant de xAI ne serait intervenu qu'au moment où l'homme a formulé une requête mentionnant un « viol collectif », ce qui a généré un signalement automatique (CyberTip) transmis au National Center for Missing and Exploited Children (NCMEC), lequel a ensuite alerté les autorités. En mars, l'homme s'est suicidé après que la police a découvert ces images sur ses appareils. Au-delà de l'horreur du cas individuel, cette affaire relance la question de la responsabilité des plateformes dans la prolifération des outils d'IA générative dits « nudify », capables de transformer une photo anodine en contenu pédopornographique. Les plaignantes, plusieurs jeunes filles, accusent désormais X et xAI non seulement d'avoir conçu des outils toxiques mais aussi d'avoir entravé les enquêtes policières sur les contenus de pédocriminalité générés par Grok. Si ces accusations sont confirmées, elles pointeraient une défaillance grave des garde-fous censés bloquer ce type de production avant qu'un signalement ne soit nécessaire. Cette procédure s'inscrit dans un mouvement plus large de plaintes visant les grandes entreprises d'IA générative, accusées de déployer des modèles capables de produire des contenus d'abus sexuel sur mineurs sans dispositifs de détection suffisants en amont. Le rôle du NCMEC, chargé de centraliser les signalements avant transmission aux forces de l'ordre, est également scruté, tout comme la rapidité et la sincérité de la coopération de xAI avec les enquêteurs. L'issue de cette action collective pourrait peser sur les futures obligations légales imposées aux développeurs de chatbots et de générateurs d'images.

💬 Bon, là on n'est plus dans le débat sur les limites de la modération, on est dans un fait divers qui devrait terrifier n'importe qui suivant l'IA générative de près. 7 000 images à partir d'une seule photo, et le garde-fou de Grok ne s'est déclenché que sur le mot "viol collectif", pas sur l'inceste ni sur l'âge de la victime : ça veut dire que le filtre réagit à des mots-clés, pas à la gravité du contenu produit. Selon Le Fil IA, cette affaire montre que la modération a posteriori (attendre qu'un signalement parte) ne suffit plus quand l'outil peut générer des milliers de contenus illégaux avant qu'une alerte se déclenche.

Le détecteur d’images IA de Meta montre ses limites face à un simple recadrage

Meta a présenté Content Seal, un filigrane numérique invisible intégré aux images générées par son outil Muse Image, accompagné d'un détecteur censé identifier ces contenus produits par intelligence artificielle. Une analyse menée par Reuters et publiée le 12 juillet 2026 a testé ce dispositif sur quarante visuels générés par Muse Image. Sur les images intactes, le détecteur s'est montré parfaitement fiable, reconnaissant la totalité des quarante fichiers testés. Mais dès que Reuters a recadré ces mêmes images pour les réduire à environ un tiers, voire la moitié de leur taille d'origine, le taux de reconnaissance s'est effondré à environ 45 %, soit un échec dans 55 % des cas. Aucune manipulation sophistiquée n'a été nécessaire pour tromper le système : ni logiciel de retouche avancé, ni filtre complexe, seulement un recadrage basique, une fonction disponible sur n'importe quel smartphone depuis plus de dix ans. Cette faille pose un problème concret au moment même où l'Union européenne s'apprête à durcir ses exigences en matière de traçabilité des contenus IA. À partir du 2 août 2026, le règlement européen sur l'intelligence artificielle impose aux fournisseurs d'IA générative de marquer leurs productions dans un format lisible par une machine, une obligation qui couvre les images, les vidéos, l'audio et les textes générés artificiellement. Si un simple recadrage suffit à effacer la trace laissée par un outil censé répondre à cette exigence, la capacité des plateformes et des vérificateurs de faits à distinguer contenus authentiques et contenus générés par IA s'en trouve directement affaiblie, à un moment où ces images circulent massivement sur les réseaux sociaux. Cette fragilité n'est pourtant pas propre à Meta. Les spécialistes du secteur savent que les systèmes de filigrane invisible partagent une faiblesse structurelle : un recadrage important, une compression ou un redimensionnement peuvent suffire à effacer un signal devenu trop ténu pour être détecté. Google et OpenAI reconnaissent eux aussi que leurs propres technologies de marquage ne résistent pas à toutes les transformations d'image. Meta rappelle de son côté que son détecteur reste en préversion et que Content Seal a été conçu pour survivre à certaines modifications, tout en admettant qu'un recadrage marqué peut faire disparaître le signal. À cette fragilité technique s'ajoute un problème de compatibilité : Content Seal ne fonctionne ni avec SynthID, la technologie de Google, ni avec le standard C2PA soutenu par Adobe et Microsoft, une fragmentation qui complique d'autant la tâche des acteurs chargés de vérifier l'origine des contenus en ligne.