La technologie de tatouage numérique SynthID de Google adoptée par OpenAI, Nvidia et d'autres

Le système de tatouage numérique IA de Google a-t-il été percé ?

Un développeur indépendant affirme avoir réingénié SynthID, le système de tatouage numérique développé par Google DeepMind pour identifier les images générées par intelligence artificielle. L'individu, qui se présente sous le pseudonyme Aloshdenny, a publié son travail en open source sur GitHub et décrit sa méthode sur Medium : il aurait utilisé seulement 200 images générées par Gemini, des techniques de traitement du signal, et beaucoup de temps libre. Selon lui, aucun réseau de neurones ni accès propriétaire n'ont été nécessaires. Google conteste ces affirmations et affirme que SynthID n'a pas été compromis. Si la démonstration s'avérait fondée, les conséquences seraient significatives : SynthID est présenté comme un outil clé pour lutter contre la désinformation et les deepfakes, en permettant de tracer l'origine des contenus synthétiques. Pouvoir retirer ou insérer ces marqueurs invisibles à la demande remettrait en cause toute la chaîne de confiance que Google cherche à construire autour de ses modèles génératifs, avec des implications directes pour les plateformes, les journalistes et les régulateurs. SynthID a été lancé en 2023 par Google DeepMind comme solution technique à la prolifération des images artificielles non détectables. Le système intègre un filigrane imperceptible directement dans les pixels générés, censé résister aux modifications courantes. La controverse s'inscrit dans un débat plus large sur la robustesse des systèmes de provenance des contenus IA, alors que l'Union européenne et d'autres régulateurs poussent à l'adoption de standards de traçabilité. L'affaire souligne combien ces mécanismes, s'ils ne sont pas cryptographiquement solides, peuvent offrir une fausse sécurité.

OpenAI, Anthropic et Google s’allient contre le siphonnage de leurs modèles par la Chine

OpenAI, Anthropic et Google ont annoncé une collaboration inédite pour contrer ce que les trois entreprises qualifient de "distillation" de leurs modèles d'intelligence artificielle par des entités liées à la Chine. Ce phénomène consiste à utiliser les sorties des grands modèles américains pour entraîner des systèmes concurrents à moindre coût, contournant ainsi les investissements colossaux, plusieurs dizaines de milliards de dollars, réalisés par ces laboratoires. Les rivaux habituels ont décidé de partager leurs données de sécurité pour identifier et bloquer ces pratiques plus efficacement. Cette alliance soulève des enjeux considérables pour la compétitivité technologique américaine. La distillation permet théoriquement à des acteurs étrangers d'obtenir des capacités comparables à celles des modèles de pointe sans en supporter les coûts de recherche et développement, rééquilibrant ainsi le rapport de force dans la course mondiale à l'IA. Pour les trois entreprises, la menace est à la fois commerciale et stratégique : perdre cet avantage compétitif reviendrait à fragiliser une position que Washington considère désormais comme un élément de sécurité nationale à part entière. La démarche s'inscrit dans un contexte de tensions croissantes entre les États-Unis et la Chine sur le terrain technologique, après les restrictions à l'export de puces Nvidia et les débats autour de DeepSeek, le modèle chinois dont l'efficacité avait provoqué une onde de choc sur les marchés début 2025. En mutualisant leur veille, OpenAI, Anthropic et Google cherchent à établir un front commun que chaque entreprise isolément n'aurait pas les moyens de tenir face à des techniques d'extraction en constante évolution.

Une IA soutenue par Apple et Google révèle des milliers de failles dans des logiciels très utilisés

Project Glasswing, une initiative de cybersécurité soutenue par douze géants technologiques dont Apple, Google, Microsoft, AWS, Cisco, NVIDIA et JPMorgan Chase, a été lancée pour détecter automatiquement des failles dans les logiciels les plus critiques au monde. Le projet s'appuie sur un système d'intelligence artificielle baptisé Mythos, capable d'analyser en profondeur des bases de code massives pour y repérer des vulnérabilités jusqu'alors inconnues. Plus de quarante organisations gérant des infrastructures logicielles mondiales participent également à l'initiative, coordonnée sous l'égide de la Linux Foundation. Aucun accès public, abonnement commercial ou lancement grand public n'est prévu : le projet fonctionne exclusivement en consortium fermé. L'enjeu est considérable. Les logiciels open source constituent la colonne vertébrale de l'infrastructure numérique mondiale, des serveurs bancaires aux systèmes industriels en passant par les plateformes cloud. Des failles non détectées dans ces composants peuvent exposer des millions d'organisations simultanément, comme l'avait illustré la vulnérabilité Log4Shell en 2021. En automatisant la détection à grande échelle, Mythos promet de réduire drastiquement la fenêtre d'exposition entre l'introduction d'une faille et sa correction, un délai qui se compte aujourd'hui souvent en mois, voire en années. Ce projet s'inscrit dans une tendance de fond : après des années à construire des IA génératives grand public, les grandes entreprises technologiques réorientent une partie de leurs investissements vers des usages à fort impact systémique. La sécurité logicielle, longtemps sous-financée malgré sa criticité, attire désormais des coalitions inédites. Project Glasswing illustre aussi une réponse collective aux pressions réglementaires croissantes en Europe et aux États-Unis, qui imposent aux éditeurs une responsabilité accrue sur la sécurité de leurs chaînes d'approvisionnement logicielles.

Microsoft lance MXC, un bac à sable au niveau OS pour agents IA, avec OpenAI et Nvidia à bord

Microsoft a présenté mardi, lors de sa conférence annuelle Build, une nouvelle couche de sécurité intégrée directement dans Windows : les Microsoft Execution Containers, ou MXC. Il ne s'agit pas d'un produit à acheter, mais d'un SDK et d'un modèle de politique embarqués dans le système d'exploitation et dans le Windows Subsystem for Linux. Concrètement, MXC permet aux développeurs et aux administrateurs informatiques de définir précisément ce qu'un agent IA peut ou ne peut pas faire, avec des limites appliquées en temps réel par le noyau du système. Le dispositif couvre un spectre allant de l'isolation légère de processus, déjà adoptée par la CLI de GitHub Copilot, jusqu'aux micro-machines virtuelles, conteneurs Linux et instances cloud tournant sous Windows 365. Chaque agent est lié à une identité forte, locale ou provisionnée via Microsoft Entra, ce qui permet d'attribuer, d'auditer et de gouverner chacune de ses actions. OpenAI et Nvidia font partie des premiers partenaires annoncés. L'annonce intervient à un moment charnière pour les entreprises. Jusqu'à présent, le déploiement d'agents IA autonomes sur des réseaux d'entreprise se heurtait à un paradoxe : plus un agent est capable, plus il est dangereux à laisser opérer sans garde-fous. MXC sépare l'exécution de l'agent du bureau de l'utilisateur, du presse-papiers, de l'interface graphique et des périphériques d'entrée, ce qui réduit drastiquement la surface d'attaque. Pour les directions informatiques et sécurité, c'est potentiellement le verrou qui empêchait de passer des démos à la production réelle : un environnement d'exécution de confiance, standardisé et intégré à l'OS, plutôt qu'une solution maison bricolée par chaque éditeur. Depuis deux ans, les chercheurs en sécurité ont multiplié les démonstrations montrant comment des agents IA pouvaient être manipulés par injection de prompt, appels d'outils malveillants ou exfiltration de données dissimulée dans des flux de travail normaux. Microsoft elle-même décrit le problème comme "un enjeu systémique multi-couches" : chaque interaction entre un agent et des humains, des outils, des applications ou d'autres agents ouvre de nouvelles failles. En intégrant MXC directement dans Windows plutôt qu'en le proposant comme une surcouche optionnelle, Microsoft cherche à établir un standard de facto pour l'industrie. Si les grands éditeurs de logiciels d'entreprise adoptent ce modèle, ce sont potentiellement toutes les entreprises du monde utilisant Windows qui bénéficieront automatiquement de ce cadre de sécurité pour leurs déploiements d'agents, sans action supplémentaire.

💬 C'est le verrou qui manquait pour passer des démos à la prod. On a tous vu des agents autonomes tourner en sandbox, faire des trucs impressionnants, et tout le monde savait qu'on ne pourrait jamais les laisser opérer sur un vrai réseau sans cage solide. Intégrer ça dans le noyau Windows plutôt qu'en surcouche optionnelle, c'est la seule façon d'en faire un standard, même si ça revient à confier les clés de la gouvernance IA mondiale à Redmond.