Google offre l'outil le plus simple pour créer de fausses images satellite, puis le retire après deux jours
Google a retiré son modèle de génération d'images Nano Banana 2 de Google Earth à peine deux jours après son lancement, après que des utilisateurs ont démontré la facilité avec laquelle l'outil permettait de fabriquer de fausses images satellite convaincantes. Un exemple particulièrement frappant a circulé en ligne : il suffisait d'une simple consigne textuelle pour remplir un terrain vague situé près de la frontière mexicaine d'une colonne de migrants, créant une image satellite entièrement fictive mais visuellement crédible. Face à cette démonstration, Google a choisi de suspendre l'accès à la fonctionnalité plutôt que de laisser l'outil disponible en l'état.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cet incident illustre un problème central pour l'industrie de l'IA générative : l'imagerie satellite bénéficie traditionnellement d'une présomption d'authenticité, utilisée par les journalistes, les chercheurs et les autorités comme preuve objective d'événements réels, notamment dans des contextes sensibles comme les crises migratoires ou les conflits. Un outil capable de produire de fausses images satellite en quelques secondes, sans compétence technique particulière, menace directement cette crédibilité et ouvre la porte à des manipulations à des fins de désinformation, de propagande politique ou de fabrication de preuves.
Ce retrait rapide s'inscrit dans une série de controverses autour des modèles de génération d'images de Google, dont la gamme Nano Banana a déjà suscité des débats sur la modération et les garde-fous mis en place avant diffusion publique. L'épisode relance la question du déploiement précipité de fonctionnalités d'IA générative dans des outils cartographiques largement utilisés, sans mécanismes suffisants de détection ou d'authentification des contenus. Il reste à voir si et comment Google réintroduira cette capacité, avec quelles limitations techniques pour empêcher la falsification de zones géographiques sensibles.
Cet incident nourrit les debats europeens sur la desinformation et l'authentification des contenus generes par IA, sans impact direct rapporte sur la France ou l'UE.
Deux jours, c'est le temps qu'il a fallu à Google pour comprendre que son propre outil venait de flinguer la présomption d'authenticité de la photo satellite. Une consigne texte, une frontière, une colonne de migrants inventée de toutes pièces, et tu obtiens une preuve visuelle qui a l'air plus vraie que nature. Le vrai souci n'est pas Nano Banana en soi, c'est que l'imagerie satellite servait de dernier rempart factuel avant que l'IA générative ne la rende aussi suspecte qu'une capture d'écran WhatsApp. Reste à voir si Google retente le coup avec des garde-fous, ou si le mal est déjà fait.