Aller au contenu principal
SécuritéArs Technica AI · 2 min de lecture

Anthropic détecte des bugs plus vite que Microsoft ne parvient à les corriger

Source originale ↗·

Anthropic a lancé au printemps un programme baptisé Project Glasswing en collaboration avec Microsoft, autour d'un nouveau modèle d'intelligence artificielle interne surnommé Mythos, spécialisé dans la détection de failles de sécurité informatique. Mi-mai, des dizaines d'ingénieurs et de responsables de Microsoft se sont réunis, en visioconférence et dans une salle de réunion du siège de Redmond, dans l'État de Washington, pour faire le point sur le rythme auquel Mythos identifiait des vulnérabilités dans le code de l'entreprise. Anthropic avait donné à un nombre restreint d'organisations développant des logiciels utilisés par le grand public, des entreprises et des gouvernements du monde entier un accès anticipé à cet outil. Lors de la réunion, un ingénieur a résumé l'enjeu en demandant si Mythos était à la hauteur des promesses avancées par Anthropic.

L'ampleur du problème tient au décalage entre la vitesse de détection et la capacité de correction : Mythos débusque des failles plus vite que les équipes de Microsoft ne parviennent à les corriger, créant un embouteillage de vulnérabilités connues mais non encore patchées. Cette situation illustre un enjeu central pour l'industrie du logiciel : les mêmes capacités d'intelligence artificielle qui permettent de renforcer la sécurité peuvent aussi, entre de mauvaises mains, servir à repérer et exploiter des failles à grande échelle. Pour les utilisateurs finaux, entreprises comme administrations, cela signifie une fenêtre de risque prolongée tant que les correctifs ne suivent pas.

L'initiative s'inscrit dans une course contre la montre plus large face à des acteurs malveillants, hackers indépendants ou gouvernements considérés comme adverses, notamment la Chine, susceptibles de développer ou d'acquérir des outils d'IA comparables pour l'espionnage ou le sabotage. En donnant un accès privilégié à des éditeurs de logiciels largement déployés, Anthropic cherche à devancer ces usages offensifs en aidant à corriger les failles avant qu'elles ne soient exploitées. Le cas Microsoft montre toutefois que la détection automatisée par IA dépasse déjà, à ce stade, la capacité humaine de remédiation, posant la question de savoir comment adapter les processus de correction à cette nouvelle échelle.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Anthropic alerte : Claude Mythos Preview détecte les bugs plus vite que les développeurs ne peuvent les corriger
1The Decoder 

Anthropic alerte : Claude Mythos Preview détecte les bugs plus vite que les développeurs ne peuvent les corriger

Le modèle d'Anthropic Claude Mythos Preview a identifié plus de 10 000 vulnérabilités critiques dans des logiciels à usage système, dans le cadre du Project Glasswing, un programme impliquant une cinquantaine de partenaires. Ces failles touchent des composants logiciels essentiels, et leur rythme de découverte dépasse largement la capacité des équipes de développement à les corriger. L'annonce intervient alors que le modèle est encore en phase de prévisualisation, ce qui laisse présager une accélération encore plus marquée avec un déploiement à grande échelle. Anthropic tire elle-même la sonnette d'alarme : cette situation crée une période de transition à haut risque, durant laquelle des failles connues restent exploitables faute de correctifs disponibles. Plus inquiétant encore, la société reconnaît qu'aucune entreprise, y compris elle-même, n'a développé des garde-fous suffisamment robustes pour empêcher un usage malveillant de ces capacités. Les outils de détection automatisée de vulnérabilités deviennent ainsi une arme à double tranchant : utiles pour les défenseurs, mais potentiellement redoutables entre de mauvaises mains. Ce constat s'inscrit dans une tendance plus large où les grands modèles de langage sont de plus en plus intégrés dans des pipelines de sécurité offensive et défensive. Plusieurs acteurs de la cybersécurité, comme Google avec Project Zero ou des startups spécialisées, explorent déjà ces capacités, mais l'échelle atteinte par Anthropic avec Mythos Preview marque un seuil qualitatif. La question du rythme de divulgation responsable des failles et de la coordination avec les éditeurs logiciels devient désormais centrale pour éviter que cette surproduction de vulnérabilités ne tourne à la catastrophe.

UELes vulnérabilités découvertes dans des logiciels système essentiels exposent directement les entreprises et infrastructures critiques européennes à un risque accru pendant la période de transition avant correction, dans un contexte où la directive NIS2 impose des obligations strictes de signalement et de remédiation des incidents.

💬 10 000 failles critiques, avant même la sortie officielle. Ce qui me frappe dans cette annonce, c'est pas la performance du modèle, c'est qu'Anthropic admet eux-mêmes n'avoir aucun garde-fou robuste contre le mauvais usage, et que leurs 50 partenaires non plus. La fenêtre entre "faille connue par l'IA" et "patch disponible" va durer des mois, et quelqu'un va s'y engouffrer.

SécuritéOpinion
1 source
Plus de 100 agents IA mis en compétition par Microsoft pour détecter des failles dans Windows
2The Decoder 

Plus de 100 agents IA mis en compétition par Microsoft pour détecter des failles dans Windows

Microsoft a développé un système baptisé MDASH qui mobilise plus d'une centaine d'agents IA spécialisés, mis en compétition les uns contre les autres pour détecter des failles de sécurité dans ses logiciels. Lors du dernier Patch Tuesday, ce dispositif a permis d'identifier 16 vulnérabilités dans Windows en une seule session, dont quatre classées critiques. Microsoft ne divulgue pas quels modèles d'IA alimentent le système, mais l'ampleur du déploiement témoigne d'une infrastructure de recherche offensive d'envergure inédite. Cette approche marque un changement de paradigme dans la manière dont les grandes entreprises tech traquent leurs propres failles. Plutôt que de s'appuyer uniquement sur des équipes humaines ou des outils d'analyse statique, Microsoft automatise désormais une partie du "red teaming", la simulation d'attaques internes pour trouver des faiblesses avant les pirates. Quatre vulnérabilités critiques découvertes en un seul cycle de patch représentent un gain de sécurité concret pour les centaines de millions d'utilisateurs Windows dans le monde. La course aux agents IA autonomes capables de raisonner sur du code complexe s'intensifie dans tout le secteur. Google, OpenAI et des startups spécialisées comme Endor Labs investissent massivement dans des outils similaires. Pour Microsoft, qui gère l'un des écosystèmes logiciels les plus ciblés au monde, industrialiser la détection de vulnérabilités via l'IA devient une nécessité stratégique face à des attaquants qui utilisent eux-mêmes ces technologies. MDASH pourrait préfigurer un futur où la sécurité logicielle repose sur des armées d'agents se testant mutuellement en continu.

UELes vulnérabilités détectées par MDASH dans Windows, dont quatre critiques, concernent directement les centaines de millions d'utilisateurs européens de cet OS, améliorant concrètement leur niveau de sécurité numérique.

💬 16 vulnérabilités en un cycle de patch, dont 4 critiques, c'est du solide. L'idée de mettre des agents en compétition pour simuler des attaques, le red teaming automatisé à grande échelle, c'est le genre de truc qu'on voyait venir mais pas à ce rythme. Bon, Microsoft garde ses modèles secrets, ce qui veut dire que tout le monde travaille à cache-cache pendant que les attaquants font exactement pareil de leur côté.

SécuritéOpinion
1 source
Le modèle d'IA le plus dangereux d'Anthropic vient de tomber entre de mauvaises mains
3The Verge 

Le modèle d'IA le plus dangereux d'Anthropic vient de tomber entre de mauvaises mains

Un groupe restreint d'utilisateurs non autorisés a réussi à accéder à Mythos, le modèle d'intelligence artificielle cybersécurité d'Anthropic, selon une enquête de Bloomberg publiée en avril 2026. L'accès aurait été obtenu grâce à un sous-traitant tiers d'Anthropic, qui a permis à des membres d'un forum privé en ligne d'exploiter ses accréditations combinées à des outils de recherche ouverts sur internet. Claude Mythos Preview est un modèle nouvelle génération capable d'identifier et d'exploiter des failles de sécurité dans tous les grands systèmes d'exploitation et navigateurs web du marché. L'incident est particulièrement préoccupant car Anthropic avait elle-même qualifié Mythos de modèle "dangereux entre de mauvaises mains", justifiant ainsi un accès strictement limité et contrôlé. Un outil capable de cartographier et d'exploiter des vulnérabilités à l'échelle de Windows, macOS, Chrome ou Firefox représente une menace concrète s'il est utilisé à des fins malveillantes, que ce soit pour des cyberattaques ciblées, du vol de données ou des opérations d'espionnage industriel. Cet accès non autorisé illustre une tension centrale dans le développement des modèles d'IA à double usage: plus les capacités cybersécurité sont avancées, plus les risques de détournement augmentent. Anthropic fait partie des rares laboratoires à avoir instauré des restrictions d'accès explicites pour ses modèles les plus sensibles, une approche que l'incident remet en question. La fuite via un sous-traitant soulève aussi des interrogations sur les pratiques de gestion des accès au sein des grands laboratoires d'IA, où la chaîne de confiance s'étend bien au-delà des équipes internes.

UELes administrations et entreprises françaises et européennes utilisant Windows, macOS ou les navigateurs Chrome et Firefox sont potentiellement exposées à des cyberattaques plus sophistiquées si les capacités du modèle Mythos venaient à être exploitées par des acteurs malveillants.

SécuritéActu
1 source
Pourquoi Microsoft et d'autres clients d'Anthropic ont tardé à adopter Claude Fable
4The Information AI 

Pourquoi Microsoft et d'autres clients d'Anthropic ont tardé à adopter Claude Fable

Lors du lancement de son dernier modèle d'intelligence artificielle Claude Fable, Anthropic a instauré une nouvelle politique de rétention des données : toutes les informations transmises au modèle sont conservées pendant 30 jours. L'objectif affiché est de détecter les usages malveillants ou illégaux. Mais cette décision a un effet secondaire immédiat : les entreprises qui utilisent Fable pour écrire ou modifier du code applicatif confient techniquement leurs données propriétaires à Anthropic pendant un mois. Dans certains cas, ces données sont stockées sur des serveurs cloud distincts de ceux que les clients ont eux-mêmes configurés. Amazon Web Services, qui héberge l'infrastructure d'Anthropic et revend ses modèles à ses propres clients cloud, a officiellement averti ces derniers mardi que "dès lors que vous optez pour la rétention des données, celles-ci quittent le périmètre de données et de sécurité d'AWS." Cette situation freine l'adoption de Fable chez plusieurs grands clients, dont Microsoft. Pourtant, les capacités de codage du modèle sont reconnues comme exceptionnelles, au point qu'Anthropic a pu relever ses tarifs sans perdre la demande. Le problème est fondamentalement de nature juridique et réglementaire : pour des entreprises manipulant du code propriétaire, des secrets industriels ou des données sensibles, accepter qu'un tiers conserve ces informations hors de leur périmètre de contrôle pendant 30 jours représente un risque de conformité inacceptable, notamment au regard des réglementations sectorielles ou des politiques internes de cybersécurité. La tension illustre un défi structurel pour les fournisseurs d'IA générative : plus leurs modèles sont puissants et déployés dans des environnements critiques, plus les exigences de souveraineté des données deviennent contraignantes. Anthropic se retrouve dans une position délicate, devant concilier ses impératifs de sécurité et de surveillance des usages avec les standards de confidentialité attendus par ses clients enterprise. La décision d'AWS de clarifier publiquement les implications de cette politique suggère que la pression des clients institutionnels est déjà forte, et que des aménagements contractuels ou techniques pourraient être négociés dans les semaines à venir.

UELes entreprises européennes utilisant Claude Fable pour du développement logiciel doivent évaluer si la rétention de données pendant 30 jours est compatible avec le RGPD et leurs politiques internes de sécurité.

💬 Fable code apparemment mieux que tout le monde, au point qu'Anthropic peut se permettre de monter ses prix. Mais 30 jours de rétention sur du code propriétaire, c'est le genre de clause que les équipes légales barrent d'un trait rouge sans lire la suite. Reste à voir si Anthropic lâche du lest, parce que se fâcher avec Microsoft et AWS en même temps, c'est pas une stratégie de croissance évidente.

SécuritéOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic