Pourquoi l’IA de Google Earth a été désactivée d’urgence

Google Earth : l'outil de deepfakes par IA n'a duré qu'un jour

Pompeii réimaginée grâce à Nano Banana 2 dans Google Earth: Google a lancé jeudi un outil permettant aux utilisateurs de modifier les images satellite de Google Earth via des prompts textuels, avant de le retirer dès le lendemain, vendredi. La fonctionnalité s'appuyait sur le modèle de génération d'images Nano Banana 2 et permettait de transformer des lieux réels par simple description écrite. Le journaliste Henk van Ess, du site Digital Digging, a testé l'outil en générant délibérément des images trompeuses, notamment des réfugiés près de la frontière mexicaine et un cratère de bombe à proximité d'un hôpital à Gaza. Interrogé jeudi, Google avait d'abord répondu que les images créées via Nano Banana 2 comportaient un filigrane numérique et que l'entreprise empêchait la "création d'images sur des sujets sensibles". Vingt-quatre heures plus tard, la position de Google avait changé et l'outil était suspendu. Cet épisode illustre la difficulté des grandes entreprises technologiques à anticiper les usages détournés de leurs outils d'IA générative, même lorsque des garde-fous sont annoncés en amont. En permettant de créer de faux contenus visuels superposés à des images satellite réelles et reconnaissables, Google Earth offrait un vecteur de désinformation particulièrement crédible: des lieux authentiques, modifiés pour montrer des événements qui ne s'y sont jamais produits. Le filigrane numérique, présenté comme une garantie de transparence, n'empêchait ni la création ni la diffusion de ces images trompeuses, notamment sur des sujets géopolitiquement sensibles comme l'immigration ou les conflits armés. Cette affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA face aux deepfakes, alors que des outils de génération d'images de plus en plus réalistes se multiplient chez Google, OpenAI ou Meta. Le retrait rapide de la fonctionnalité, moins de 24 heures après son lancement, suggère que Google a sous-estimé les risques de désinformation avant la mise en ligne, malgré ses propres garde-fous annoncés. Reste à savoir si l'entreprise réintroduira l'outil avec des restrictions renforcées ou l'abandonnera définitivement, dans un contexte où la pression réglementaire sur l'IA générative continue de s'intensifier en Europe comme aux États-Unis.

💬 Google a lancé Nano Banana 2 dans Google Earth, un mec a testé le truc en générant des réfugiés à la frontière mexicaine et un cratère de bombe près d'un hôpital à Gaza, et 24h après l'outil était mort. Le filigrane numérique qu'ils brandissaient comme garde-fou, c'est du flan : ça n'empêche ni de créer l'image trompeuse ni de la balancer partout, et une photo satellite d'un lieu réel avec un faux événement dessus, c'est autrement plus crédible qu'un deepfake classique. Selon Le Fil IA, le vrai risque des deepfakes IA n'est plus la fausse image isolée, mais sa capacité à se superposer à un lieu réel et reconnaissable pour raconter un événement qui n'a jamais eu lieu.

Google Earth a risqué sa réputation avec un outil IA retiré, générant de fausses images satellite

Google a brièvement autorisé n'importe quel utilisateur à créer des versions modifiées par intelligence artificielle des images satellite disponibles sur Google Earth, avant de revenir rapidement sur cette décision. La fonctionnalité s'appuyait sur Nano Banana 2, le générateur d'images IA de Google, intégré directement à Google Earth. Bryan Horowitz, chef de produit pour Google Earth, l'avait présentée dans un billet de blog publié le 30 juillet, expliquant que les utilisateurs pouvaient "pour la première fois générer des images personnalisées en combinant l'imagerie satellite, aérienne et 3D de Google Earth avec Nano Banana, qui crée des concepts ancrés dans le monde réel". L'entreprise a fait machine arrière quelques jours seulement après le lancement, alors que des internautes commençaient à partager en ligne des exemples d'images générées qui illustraient concrètement le risque de désinformation et de manipulation visuelle. Ce retrait rapide souligne un problème que Google connaissait probablement mais avait sous-estimé : rendre aussi simple et accessible la modification d'images satellite de lieux réels et identifiables ouvre la porte à des usages malveillants, qu'il s'agisse de fabriquer de fausses preuves de catastrophes, de falsifier l'apparence d'infrastructures sensibles ou de créer des contenus trompeurs sur des zones géographiques précises. Contrairement à d'autres outils génératifs qui produisent des images fictives, la fonctionnalité de Google Earth partait d'une base authentique et vérifiable, ce qui rendait les manipulations potentiellement plus crédibles et donc plus dangereuses pour la désinformation. Cet épisode s'inscrit dans un débat plus large sur la responsabilité des grandes entreprises technologiques lorsqu'elles déploient des outils d'IA générative sans garde-fous suffisants. Si de nombreuses applications permettent déjà de modifier des images de bâtiments ou de villes réelles à partir de simples requêtes textuelles, l'association de Nano Banana 2 à la base de données géographique massive et fiable de Google Earth représentait un cas particulièrement sensible. Le retrait précipité de la fonctionnalité, à peine quelques jours après son annonce, laisse penser que Google devra revoir ses garde-fous avant d'envisager une réintégration, dans un contexte où les régulateurs et le public scrutent de plus en plus les risques de manipulation visuelle liés à l'IA générative.

💬 Google a lâché en quelques jours une feature qui aurait dû rester dans les cartons jusqu'à ce que la question des garde-fous soit réglée. Le truc, c'est que ça partait d'images satellite réelles et vérifiées, donc les manipulations générées héritent de cette crédibilité, contrairement à un simple générateur d'images bidon. Ce que révèle cet épisode, c'est que même les boîtes qui maîtrisent le mieux les données géographiques peuvent sous-estimer à quel point rendre la falsification accessible change la donne pour la désinformation.

Le système de tatouage numérique IA de Google a-t-il été percé ?

Un développeur indépendant affirme avoir réingénié SynthID, le système de tatouage numérique développé par Google DeepMind pour identifier les images générées par intelligence artificielle. L'individu, qui se présente sous le pseudonyme Aloshdenny, a publié son travail en open source sur GitHub et décrit sa méthode sur Medium : il aurait utilisé seulement 200 images générées par Gemini, des techniques de traitement du signal, et beaucoup de temps libre. Selon lui, aucun réseau de neurones ni accès propriétaire n'ont été nécessaires. Google conteste ces affirmations et affirme que SynthID n'a pas été compromis. Si la démonstration s'avérait fondée, les conséquences seraient significatives : SynthID est présenté comme un outil clé pour lutter contre la désinformation et les deepfakes, en permettant de tracer l'origine des contenus synthétiques. Pouvoir retirer ou insérer ces marqueurs invisibles à la demande remettrait en cause toute la chaîne de confiance que Google cherche à construire autour de ses modèles génératifs, avec des implications directes pour les plateformes, les journalistes et les régulateurs. SynthID a été lancé en 2023 par Google DeepMind comme solution technique à la prolifération des images artificielles non détectables. Le système intègre un filigrane imperceptible directement dans les pixels générés, censé résister aux modifications courantes. La controverse s'inscrit dans un débat plus large sur la robustesse des systèmes de provenance des contenus IA, alors que l'Union européenne et d'autres régulateurs poussent à l'adoption de standards de traçabilité. L'affaire souligne combien ces mécanismes, s'ils ne sont pas cryptographiquement solides, peuvent offrir une fausse sécurité.

☕️ Google Earth permet maintenant d’ajouter ce qui n’existe pas

Google a discrètement ajouté Nano Banana 2, son modèle de génération d'images par intelligence artificielle, à Google Earth, permettant aux utilisateurs d'insérer dans les vues satellites des éléments qui n'existent pas dans la réalité. Concrètement, il suffit de saisir une requête textuelle pour faire apparaître de nouveaux bâtiments, « améliorer » des infrastructures existantes ou intégrer des objets totalement fictifs sur une image satellite, avec un rendu photoréaliste. Le journaliste Henk van Ess a testé les limites de l'outil en générant plusieurs scénarios sensibles : une centrale nucléaire en Iran, des réfugiés à la frontière entre le Mexique et les États-Unis, un hôpital placé à côté d'un cratère de bombe dans la bande de Gaza, ainsi qu'un accident de voiture dans une rue d'Amsterdam. Ces générations ont abouti malgré les garde-fous que Google affirme avoir mis en place pour bloquer les requêtes jugées dangereuses. Face aux questions de van Ess, Google a répondu prendre la désinformation « très au sérieux », en rappelant que chaque image générée par Nano Banana intègre un filigrane numérique SynthID, et qu'il est possible de vérifier l'origine d'une image via Gemini ou Google Lens. L'enjeu dépasse largement la simple plaisanterie visuelle, du type Godzilla posé à côté de la Tour Eiffel. En rendant crédibles des scènes géopolitiquement sensibles à l'échelle d'une carte du monde utilisée par des centaines de millions de personnes, Google Earth ouvre une porte à la désinformation : de fausses « preuves » d'infrastructures militaires, de mouvements de population ou de destructions pourraient circuler et alimenter des rumeurs ou des campagnes de manipulation, avec d'autant plus de poids qu'elles s'appuient sur un service perçu comme une source factuelle et cartographique. L'ANSSI, l'agence française de cybersécurité, a déjà qualifié la détection des deepfakes d'« enfer » tant les outils de vérification peinent à suivre le rythme de la génération. Le filigrane SynthID et les vérifications via Gemini ou Lens existent, mais restent des procédures peu connues du grand public, ce qui limite leur efficacité réelle face à la diffusion virale d'images trafiquées. Cette annonce intervient alors que Google célèbre les 20 ans de Google Earth, dont une autre nouveauté permet de se promener dans des captures historiques du globe, soulignant le contraste entre la vocation originelle du service, documenter fidèlement la planète, et cette nouvelle capacité à la réinventer à volonté. Elle s'inscrit aussi dans une tendance plus large de l'industrie de l'IA générative, où des entreprises comme Google, OpenAI ou Midjourney améliorent sans cesse le photoréalisme de leurs modèles tout en peinant à contenir les usages détournés, malgré des mécanismes de filigrane et de blocage de requêtes. La réaction de Google, qui se veut rassurante sans pour autant empêcher la reproduction des prompts problématiques signalés par van Ess, laisse présager un débat croissant sur la responsabilité des plateformes cartographiques et sur la nécessité de rendre les outils de détection d'images générées par IA aussi accessibles et connus que les outils de création eux-mêmes.

💬 Bon, ils rassurent avec le filigrane SynthID, mais autant dire que ça arrête personne : quasi aucun utilisateur ne va vérifier une image sur Gemini avant de la partager. Là on parle de générer une centrale nucléaire iranienne ou un hôpital détruit à Gaza sur l'outil cartographique le plus utilisé au monde, et les garde-fous censés bloquer ça n'ont pas tenu deux minutes face à un journaliste un peu curieux. Selon Le Fil IA, Google Earth vient de transformer l'outil de référence pour vérifier un fait géographique en source potentielle de désinformation géopolitique, et la différence entre les deux tient à un filigrane que personne ne va chercher.