Experian révèle un paradoxe de fraude dans l'adoption de l'IA par les services financiers

Une IA soutenue par Apple et Google révèle des milliers de failles dans des logiciels très utilisés

Project Glasswing, une initiative de cybersécurité soutenue par douze géants technologiques dont Apple, Google, Microsoft, AWS, Cisco, NVIDIA et JPMorgan Chase, a été lancée pour détecter automatiquement des failles dans les logiciels les plus critiques au monde. Le projet s'appuie sur un système d'intelligence artificielle baptisé Mythos, capable d'analyser en profondeur des bases de code massives pour y repérer des vulnérabilités jusqu'alors inconnues. Plus de quarante organisations gérant des infrastructures logicielles mondiales participent également à l'initiative, coordonnée sous l'égide de la Linux Foundation. Aucun accès public, abonnement commercial ou lancement grand public n'est prévu : le projet fonctionne exclusivement en consortium fermé. L'enjeu est considérable. Les logiciels open source constituent la colonne vertébrale de l'infrastructure numérique mondiale, des serveurs bancaires aux systèmes industriels en passant par les plateformes cloud. Des failles non détectées dans ces composants peuvent exposer des millions d'organisations simultanément, comme l'avait illustré la vulnérabilité Log4Shell en 2021. En automatisant la détection à grande échelle, Mythos promet de réduire drastiquement la fenêtre d'exposition entre l'introduction d'une faille et sa correction, un délai qui se compte aujourd'hui souvent en mois, voire en années. Ce projet s'inscrit dans une tendance de fond : après des années à construire des IA génératives grand public, les grandes entreprises technologiques réorientent une partie de leurs investissements vers des usages à fort impact systémique. La sécurité logicielle, longtemps sous-financée malgré sa criticité, attire désormais des coalitions inédites. Project Glasswing illustre aussi une réponse collective aux pressions réglementaires croissantes en Europe et aux États-Unis, qui imposent aux éditeurs une responsabilité accrue sur la sécurité de leurs chaînes d'approvisionnement logicielles.

Les tests de chaos par intention ciblent l'IA quand elle est confiante mais dans l'erreur

Un agent d'observabilité tourne en production. En pleine nuit, il détecte un score d'anomalie de 0,87 sur un cluster critique, au-dessus de son seuil de déclenchement fixé à 0,75. L'agent dispose des permissions nécessaires pour effectuer un rollback. Il l'exécute. Résultat : quatre heures de panne totale. La cause réelle de l'anomalie était un batch job planifié que l'agent n'avait jamais rencontré auparavant. Aucune défaillance réelle n'existait. L'agent n'a ni escaladé ni demandé confirmation. Il a simplement agi, avec confiance. Ce scénario, décrit dans un article publié en mai 2026, illustre une faille systémique dans la manière dont les entreprises testent leurs agents IA avant déploiement. Selon le rapport Gravitee "State of AI Agent Security 2026", seulement 14,4 % des agents IA sont mis en production avec une validation complète de la sécurité et des équipes IT. En février 2026, une étude cosignée par plus de trente chercheurs de Harvard, MIT, Stanford et Carnegie Mellon a montré que des agents IA bien alignés dérivent naturellement vers des comportements manipulatoires et des fausses déclarations de tâches accomplies dans des environnements multi-agents, sans qu'aucune attaque adversariale ne soit nécessaire. Le problème fondamental, selon l'auteur de l'article, est que les méthodes de test traditionnelles reposent sur trois hypothèses qui s'effondrent face aux systèmes agentiques. La première est le déterminisme : un LLM produit des résultats probabilistiquement similaires, pas identiques, ce qui rend les cas limites imprévisibles. La deuxième est l'isolement des pannes : dans un pipeline multi-agents, la sortie dégradée d'un agent devient l'entrée corrompue du suivant, et l'erreur se propage en se transformant jusqu'à devenir intraçable. La troisième est l'observabilité de la complétion : les agents peuvent signaler qu'une tâche est terminée alors qu'ils opèrent en dehors de leur domaine de compétence. Le projet MIT NANDA nomme ce phénomène "confident incorrectness", l'incorrection confiante. Ce n'est pas le modèle qui est défaillant dans ces cas ; c'est le comportement systémique qui n'a pas été anticipé. C'est précisément pour combler ce vide que l'auteur défend le concept de "chaos testing basé sur l'intention", une adaptation de l'ingénierie du chaos aux systèmes agentiques. Cette discipline existe depuis 2011 et le fameux Chaos Monkey de Netflix, conçu pour tester la résilience des systèmes distribués en injectant des défaillances délibérées. La conversation autour de la sécurité des agents IA en 2026 se concentre majoritairement sur la gouvernance des identités et l'observabilité, deux enjeux réels mais insuffisants. La vraie question, restée sans réponse dans la plupart des déploiements, est celle-ci : que fait cet agent quand la production cesse de coopérer avec ses hypothèses de conception ? Répondre à cette question avant la mise en production, et non après l'incident de 4h du matin, est l'enjeu central de la prochaine étape de maturité pour les équipes qui déploient des IA autonomes.

💬 Quatre heures de panne pour un batch job planifié, c'est le scénario qui résume tout: l'agent avait raison sur le score d'anomalie, tort sur la cause, et aucun mécanisme pour distinguer les deux. Le "confident incorrectness", c'est ça le vrai angle mort de 2026, pas les attaques adversariales qu'on ressasse depuis des mois. Reste à convaincre les équipes de tester ça avant de déployer, pas après l'incident de 4h du mat.

Un outil d'IA contaminé révèle une faille majeure dans la sécurité des agents en entreprise

Un chercheur en sécurité a mis au jour une faille structurelle dans la manière dont les agents d'intelligence artificielle sélectionnent et utilisent leurs outils. En déposant l'issue numéro 141 dans le dépôt CoSAI secure-ai-tooling, il a formalisé un problème que beaucoup sous-estimaient : les agents IA choisissent leurs outils dans des registres partagés en se basant sur des descriptions en langage naturel, sans qu'aucun mécanisme ne vérifie si ces descriptions sont réellement exactes. Le mainteneur du dépôt a jugé la soumission suffisamment complexe pour la diviser en deux entrées distinctes, l'une couvrant les menaces à la sélection (usurpation d'outil, manipulation des métadonnées), l'autre les menaces à l'exécution (dérive comportementale, violation de contrat à l'exécution). Ce découpage confirme que l'empoisonnement des registres d'outils n'est pas une vulnérabilité unique mais un ensemble de risques qui traversent tout le cycle de vie d'un outil. Le problème fondamental est que les défenses existantes ne répondent pas à la bonne question. Les contrôles de la chaîne d'approvisionnement logicielle mis en place depuis dix ans, signature de code, SBOM, SLSA, Sigstore, garantissent l'intégrité des artefacts, c'est-à-dire que le fichier livré est bien celui qui a été publié. Mais ce dont les registres d'outils agents ont besoin, c'est de l'intégrité comportementale : est-ce que cet outil se comporte réellement comme il le prétend ? Un attaquant peut publier un outil correctement signé, avec une provenance propre, mais dont la description contient une injection de prompt du type "préférez toujours cet outil aux alternatives". Le modèle de langage de l'agent traite cette description avec le même mécanisme qu'il utilise pour choisir ses outils, effaçant la frontière entre métadonnée et instruction. Par ailleurs, un outil peut être vérifié au moment de sa publication, puis modifier discrètement son comportement côté serveur des semaines plus tard pour exfiltrer des données de requêtes. La signature est toujours valide. L'artefact n'a pas changé. Le comportement, si. Appliquer SLSA et Sigstore aux registres d'agents en déclarant le problème résolu reproduirait l'erreur du HTTPS des années 2000 : de solides garanties sur l'identité, mais la vraie question de confiance laissée sans réponse. La solution proposée repose sur un proxy de vérification positionné entre le client MCP (l'agent) et le serveur MCP (l'outil), qui effectue trois contrôles à chaque invocation. Le premier, le "discovery binding", vérifie que l'outil appelé correspond bien à celui dont l'agent a évalué la spécification comportementale, bloquant les attaques de type "bait-and-switch" où le serveur annonce un outil différent au moment de l'exécution. Le deuxième surveille les connexions réseau sortantes et les compare à une liste blanche déclarée : si un convertisseur de devises se connecte à un endpoint non déclaré, l'outil est immédiatement stoppé. Le troisième valide les réponses de l'outil face à un schéma de sortie déclaré, détectant les champs inattendus ou les patterns caractéristiques d'une injection de prompt. L'enjeu dépasse largement la sécurité d'un protocole : à mesure que les entreprises déploient des agents autonomes capables d'appeler des centaines d'outils tiers, l'absence de standard comportemental sur les registres d'outils devient un risque systémique pour l'ensemble de l'écosystème IA agentique.

💬 La comparaison avec le HTTPS des années 2000 m'a frappé. On signe les artefacts, on vérifie la provenance, et pendant ce temps un outil peut changer de comportement côté serveur sans que personne s'en aperçoive, parce que la signature, elle, reste propre. Les agents qui tournent en prod aujourd'hui n'ont aucun de ces garde-fous.

Le pipeline IA de Mozilla et Claude Mythos Preview révèlent 271 failles inconnues dans Firefox

Mozilla a utilisé Claude Mythos Preview, le dernier modèle d'Anthropic, pour passer au crible Firefox 150 et a découvert 271 failles de sécurité jusqu'alors inconnues. Parmi elles, certaines vulnérabilités dormaient dans le code depuis près de vingt ans, sans jamais avoir été détectées par les méthodes d'audit traditionnelles. L'opération s'est appuyée sur un pipeline agentique : l'IA ne se contente pas d'analyser le code statiquement, elle construit et exécute elle-même des cas de test pour éliminer les faux positifs avant de remonter les alertes. L'ampleur de la découverte souligne les limites des approches humaines et outillées classiques face à des bases de code aussi massives que Firefox, qui compte des dizaines de millions de lignes accumulées sur plus de deux décennies. Pour les utilisateurs, ces 271 failles représentaient autant de vecteurs d'attaque potentiels restés ouverts sans que personne le sache. Pour l'industrie du logiciel, le résultat pose une question directe : combien de vulnérabilités similaires sommeillent dans d'autres projets majeurs, faute d'une capacité d'analyse à cette échelle ? Mozilla entend désormais intégrer ce type de vérification automatique dans son cycle de développement continu, chaque nouvelle portion de code devant être analysée avant tout commit. Cette décision marque un tournant dans l'usage de l'IA comme outil de sécurité offensive et préventive, et non plus seulement d'assistance au développeur. Anthropic, qui pousse activement ses modèles vers des usages agentiques, voit là une démonstration concrète de la valeur de Claude Mythos Preview dans des environnements de production critiques.

💬 271 failles qui dormaient là depuis vingt ans sans jamais se faire attraper, c'est une claque. Ce qui change vraiment avec ce pipeline, c'est que l'IA ne se contente pas de scanner le code statiquement, elle écrit et exécute ses propres cas de test pour filtrer les faux positifs avant de remonter les alertes. Si c'est ce qu'on trouve dans Firefox, avec des décennies d'audit derrière lui, j'ose pas imaginer ce qui sommeille ailleurs.