Google Earth a risqué sa réputation avec un outil IA retiré, générant de fausses images satellite

Google Earth : l'outil de deepfakes par IA n'a duré qu'un jour

Pompeii réimaginée grâce à Nano Banana 2 dans Google Earth: Google a lancé jeudi un outil permettant aux utilisateurs de modifier les images satellite de Google Earth via des prompts textuels, avant de le retirer dès le lendemain, vendredi. La fonctionnalité s'appuyait sur le modèle de génération d'images Nano Banana 2 et permettait de transformer des lieux réels par simple description écrite. Le journaliste Henk van Ess, du site Digital Digging, a testé l'outil en générant délibérément des images trompeuses, notamment des réfugiés près de la frontière mexicaine et un cratère de bombe à proximité d'un hôpital à Gaza. Interrogé jeudi, Google avait d'abord répondu que les images créées via Nano Banana 2 comportaient un filigrane numérique et que l'entreprise empêchait la "création d'images sur des sujets sensibles". Vingt-quatre heures plus tard, la position de Google avait changé et l'outil était suspendu. Cet épisode illustre la difficulté des grandes entreprises technologiques à anticiper les usages détournés de leurs outils d'IA générative, même lorsque des garde-fous sont annoncés en amont. En permettant de créer de faux contenus visuels superposés à des images satellite réelles et reconnaissables, Google Earth offrait un vecteur de désinformation particulièrement crédible: des lieux authentiques, modifiés pour montrer des événements qui ne s'y sont jamais produits. Le filigrane numérique, présenté comme une garantie de transparence, n'empêchait ni la création ni la diffusion de ces images trompeuses, notamment sur des sujets géopolitiquement sensibles comme l'immigration ou les conflits armés. Cette affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA face aux deepfakes, alors que des outils de génération d'images de plus en plus réalistes se multiplient chez Google, OpenAI ou Meta. Le retrait rapide de la fonctionnalité, moins de 24 heures après son lancement, suggère que Google a sous-estimé les risques de désinformation avant la mise en ligne, malgré ses propres garde-fous annoncés. Reste à savoir si l'entreprise réintroduira l'outil avec des restrictions renforcées ou l'abandonnera définitivement, dans un contexte où la pression réglementaire sur l'IA générative continue de s'intensifier en Europe comme aux États-Unis.

💬 Google a lancé Nano Banana 2 dans Google Earth, un mec a testé le truc en générant des réfugiés à la frontière mexicaine et un cratère de bombe près d'un hôpital à Gaza, et 24h après l'outil était mort. Le filigrane numérique qu'ils brandissaient comme garde-fou, c'est du flan : ça n'empêche ni de créer l'image trompeuse ni de la balancer partout, et une photo satellite d'un lieu réel avec un faux événement dessus, c'est autrement plus crédible qu'un deepfake classique. Selon Le Fil IA, le vrai risque des deepfakes IA n'est plus la fausse image isolée, mais sa capacité à se superposer à un lieu réel et reconnaissable pour raconter un événement qui n'a jamais eu lieu.

Google et le Pentagone concluent un accord pour un usage de l'IA sans restriction légale

Google a conclu un accord classifié avec le département américain de la Défense (DoD) autorisant ce dernier à utiliser ses modèles d'intelligence artificielle pour "tout usage gouvernemental légal", selon un rapport de The Information publié lundi. La révélation intervient moins de vingt-quatre heures après qu'une partie des employés de Google a adressé une pétition au PDG Sundar Pichai, exigeant qu'il bloque l'accès du Pentagone à ses technologies, par crainte que celles-ci soient employées à des fins "inhumaines ou extrêmement préjudiciables". Cet accord positionne Google aux côtés d'OpenAI et xAI, qui ont eux aussi signé des contrats classifiés avec le gouvernement américain. La décision illustre la tension croissante au sein des grandes entreprises tech entre impératifs commerciaux et éthique de déploiement : le DoD représente un client stratégique de premier plan, mais ses usages potentiels des systèmes d'IA restent opaques pour le grand public comme pour les salariés de ces entreprises. Le contexte récent éclaire la portée de ce choix. Anthropic a été récemment inscrit sur liste noire par le Pentagone après avoir refusé de supprimer ses garde-fous de sécurité sur demande du DoD. Google, en acceptant un accès étendu et sans restrictions explicites, prend le chemin inverse. La question des applications militaires de l'IA, qu'il s'agisse de ciblage, de surveillance ou d'automatisation de décisions, s'impose désormais comme un enjeu central pour l'ensemble du secteur.

Le détecteur d’images IA de Meta montre ses limites face à un simple recadrage

Meta a présenté Content Seal, un filigrane numérique invisible intégré aux images générées par son outil Muse Image, accompagné d'un détecteur censé identifier ces contenus produits par intelligence artificielle. Une analyse menée par Reuters et publiée le 12 juillet 2026 a testé ce dispositif sur quarante visuels générés par Muse Image. Sur les images intactes, le détecteur s'est montré parfaitement fiable, reconnaissant la totalité des quarante fichiers testés. Mais dès que Reuters a recadré ces mêmes images pour les réduire à environ un tiers, voire la moitié de leur taille d'origine, le taux de reconnaissance s'est effondré à environ 45 %, soit un échec dans 55 % des cas. Aucune manipulation sophistiquée n'a été nécessaire pour tromper le système : ni logiciel de retouche avancé, ni filtre complexe, seulement un recadrage basique, une fonction disponible sur n'importe quel smartphone depuis plus de dix ans. Cette faille pose un problème concret au moment même où l'Union européenne s'apprête à durcir ses exigences en matière de traçabilité des contenus IA. À partir du 2 août 2026, le règlement européen sur l'intelligence artificielle impose aux fournisseurs d'IA générative de marquer leurs productions dans un format lisible par une machine, une obligation qui couvre les images, les vidéos, l'audio et les textes générés artificiellement. Si un simple recadrage suffit à effacer la trace laissée par un outil censé répondre à cette exigence, la capacité des plateformes et des vérificateurs de faits à distinguer contenus authentiques et contenus générés par IA s'en trouve directement affaiblie, à un moment où ces images circulent massivement sur les réseaux sociaux. Cette fragilité n'est pourtant pas propre à Meta. Les spécialistes du secteur savent que les systèmes de filigrane invisible partagent une faiblesse structurelle : un recadrage important, une compression ou un redimensionnement peuvent suffire à effacer un signal devenu trop ténu pour être détecté. Google et OpenAI reconnaissent eux aussi que leurs propres technologies de marquage ne résistent pas à toutes les transformations d'image. Meta rappelle de son côté que son détecteur reste en préversion et que Content Seal a été conçu pour survivre à certaines modifications, tout en admettant qu'un recadrage marqué peut faire disparaître le signal. À cette fragilité technique s'ajoute un problème de compatibilité : Content Seal ne fonctionne ni avec SynthID, la technologie de Google, ni avec le standard C2PA soutenu par Adobe et Microsoft, une fragmentation qui complique d'autant la tâche des acteurs chargés de vérifier l'origine des contenus en ligne.

Google DeepMind renforce sa vigilance sur les risques biologiques de l'IA

Google DeepMind et Isomorphic Labs ont dévoilé les détails d'un programme de bioresilience conçu pour limiter les risques de détournement de l'IA en biologie tout en accélérant la réponse aux épidémies. Lancé discrètement il y a un an, ce programme conjoint compte désormais plus de 15 partenariats avec des organismes gouvernementaux, des structures de biosécurité et des groupes de recherche, dont le Lawrence Livermore National Laboratory, l'UK AI Security Institute, la CEPI et le Francis Crick Institute. DeepMind reconnaît que ses modèles de pointe, dont Gemini, possèdent une compréhension de plus en plus fine de la biologie, une capacité amplifiée par le couplage avec des modèles biologiques spécialisés, des agents comme sa plateforme Antigravity, et des bases de données tierces. Le programme repose sur trois piliers : empêcher les usages malveillants, détecter plus rapidement les épidémies, et organiser la réponse une fois une crise déclenchée. L'entreprise prévoit d'élargir ces partenariats dans les six à douze prochains mois, en se concentrant sur le renseignement sur les menaces, l'évaluation des agents IA et les parades aux tentatives de contournement, tout en coordonnant ces efforts avec le Frontier Model Forum sur la gestion des données d'entraînement sensibles, notamment virologiques. Le cœur du problème tient à un paradoxe : les connaissances qui permettent à un chercheur d'identifier une cible vaccinale pourraient tout autant aider un acteur malveillant à combler ses lacunes techniques. Pour y répondre, DeepMind combine red-teaming par des experts, essais contrôlés randomisés, classificateurs et sondes en temps réel, ainsi que des analyses de journaux pour repérer des schémas d'usage détournés plus subtils. L'entreprise insiste sur le fait qu'aucune de ces mesures n'est aboutie : il s'agit d'un processus continu, pas d'un système figé, ce qui compte directement pour toute organisation qui évaluerait la fiabilité de ces garde-fous en l'état. Un classificateur efficace contre des techniques de contournement connues ne garantit rien face à des méthodes d'attaque inédites apparaissant en conditions réelles, et DeepMind ne prétend pas le contraire. L'un des risques les plus concrets identifiés concerne la synthèse d'ADN : les sociétés membres de l'International Gene Synthesis Consortium filtrent aujourd'hui leurs commandes via des listes de pathogènes et toxines connus, mais ce filtrage commence à montrer ses limites, car l'IA peut désormais concevoir des séquences aux fonctions similaires à un pathogène dangereux sans en reproduire la séquence exacte, échappant ainsi aux filtres existants. Face à cette faille, DeepMind explore une adaptation de SynthID, son système de filigrane devenu une référence pour marquer les contenus générés par IA, texte et image, afin de l'appliquer aux séquences biologiques. Ce chantier reste exploratoire et non un produit prêt à déployer. Cette initiative s'inscrit dans un débat plus large sur la double nature des modèles frontière : les mêmes capacités qui accélèrent la recherche vaccinale ou la détection d'épidémies abaissent aussi les barrières techniques pour des acteurs malintentionnés. En misant sur des partenariats institutionnels plutôt que sur des solutions strictement internes, DeepMind et Isomorphic Labs cherchent à construire une gouvernance partagée avant que la technologie ne devance les garde-fous, un enjeu suivi de près par les régulateurs et les agences de biosécurité à mesure que les modèles gagnent en puissance.