Visa a utilisé Mythos pour traquer les bugs dans son propre réseau de paiement, puis a publié l'outil en open source

Microsoft publie un toolkit open source pour sécuriser les agents IA en production

Microsoft a publié un toolkit open-source destiné à sécuriser les agents d'intelligence artificielle en temps réel au sein des environnements d'entreprise. Baptisé runtime security toolkit, cet outil s'intercale entre le modèle de langage et le réseau d'entreprise pour surveiller, évaluer et bloquer les actions des agents autonomes au moment précis où ils tentent de les exécuter. Concrètement, lorsqu'un agent IA déclenche un appel vers un outil externe, une base de données, un pipeline CI/CD ou un dépôt cloud, le toolkit intercepte la requête, la compare à un ensemble de règles de gouvernance centralisées, et bloque l'action si elle enfreint la politique définie. Un agent autorisé uniquement à consulter un inventaire qui tenterait de passer une commande d'achat se verrait immédiatement arrêté, et l'événement serait journalisé pour révision humaine. L'enjeu est considérable pour les équipes de sécurité et les développeurs. Les systèmes d'IA d'entreprise ne se contentent plus de répondre à des questions : ils exécutent du code, envoient des e-mails, modifient des fichiers et interagissent avec des API critiques sans intervention humaine directe. Les méthodes traditionnelles, analyse statique du code, scan de vulnérabilités avant déploiement, sont structurellement inadaptées aux modèles de langage non-déterministes. Une seule attaque par injection de prompt ou une hallucination mal orientée peut suffire à écraser une base de données ou exfiltrer des données clients. Le toolkit de Microsoft découple la politique de sécurité de la logique applicative : les développeurs n'ont plus à hardcoder des règles de sécurité dans chaque prompt, et les équipes sécurité disposent d'une piste d'audit vérifiable pour chaque décision autonome du modèle. Le choix de publier ce toolkit sous licence open-source n'est pas anodin. Les développeurs construisent aujourd'hui des workflows autonomes en combinant des bibliothèques open-source, des frameworks variés et des modèles tiers, Anthropic, Meta, Mistral ou d'autres. Un outil propriétaire lié à l'écosystème Microsoft aurait probablement été contourné au profit de solutions non vérifiées, sous pression des délais. En ouvrant le code, Microsoft permet à n'importe quelle organisation, qu'elle tourne sur des modèles locaux, sur Azure ou sur des architectures hybrides, d'intégrer ces contrôles de gouvernance sans dépendance fournisseur. L'ouverture invite aussi la communauté cybersécurité à contribuer et à empiler des outils commerciaux, tableaux de bord, intégrations de réponse aux incidents, par-dessus cette fondation commune, accélérant la maturité de tout l'écosystème. À mesure que les agents autonomes s'imposent dans les entreprises, ce type de couche de sécurité d'infrastructure pourrait devenir un standard incontournable.

Convaincue par Claude Mythos ? L’administration Trump s’en sert pour traquer les failles

L'administration Trump utilise désormais Claude Mythos, le modèle d'intelligence artificielle développé par Anthropic, pour renforcer la sécurité de ses logiciels gouvernementaux. Selon des informations rapportées par Reuters, la Cybersecurity and Infrastructure Security Agency (CISA) s'appuie sur cet outil pour passer au crible les dépôts de code utilisés par différentes administrations fédérales américaines. Une équipe spécialisée dans l'évaluation des surfaces d'attaque analyse ainsi automatiquement les logiciels afin de détecter d'éventuelles vulnérabilités. Les premiers résultats seraient déjà encourageants, Claude Mythos ayant permis d'identifier un grand nombre de failles nécessitant désormais des correctifs. La NSA avait pour sa part testé le modèle en amont pour analyser ses propres infrastructures informatiques, tandis que la CISA aurait obtenu un accès avant même la mise en place définitive des nouvelles règles d'utilisation encadrant ces technologies. Cette utilisation illustre l'intérêt croissant des administrations pour l'automatisation de tâches techniques complexes, en particulier dans le domaine de la cybersécurité. L'audit de code représente traditionnellement des centaines d'heures de travail manuel pour des experts humains ; une IA spécialisée permet d'accélérer considérablement cette phase de détection, sans pour autant remplacer l'analyse humaine, qui garde le dernier mot sur la validation des failles identifiées. L'enjeu est de taille : repérer les vulnérabilités avant qu'elles ne soient exploitées par des cybercriminels ou des services de renseignement étrangers. Pour les agences fédérales, confrontées à une pression constante sur leurs systèmes numériques, ce type d'outil représente un gain de rapidité et d'efficacité potentiellement décisif dans la protection des infrastructures critiques du pays. Cette adoption intervient toutefois dans un contexte marqué par des tensions récentes entre Anthropic et Washington. En juin dernier, l'administration avait temporairement restreint l'utilisation de plusieurs modèles Claude, dont Mythos, après la découverte d'une méthode permettant de contourner certaines de leurs protections internes. Anthropic avait alors suspendu l'accès mondial à plusieurs versions de son IA, le temps de renforcer ses mécanismes de sécurité, avant que les restrictions américaines ne soient finalement levées quelques semaines plus tard. Certaines agences fédérales avaient malgré tout continué à utiliser Claude Mythos dans des environnements contrôlés durant cette période. Ce contraste illustre bien la stratégie actuelle des autorités américaines, qui cherchent à encadrer des modèles d'IA jugés puissants tout en n'hésitant pas à les déployer lorsqu'ils offrent un avantage stratégique concret pour la sécurité nationale.

💬 Le grand écart est frappant : en juin on coupe l'accès à Mythos par précaution, et deux mois après la CISA l'utilise pour passer au crible le code des agences fédérales américaines. Ça confirme une règle simple à Washington, dès qu'une IA prouve son utilité pour la sécurité nationale, les réserves de principe passent vite au second plan. Sur le fond, l'audit de code automatisé fait gagner des centaines d'heures aux équipes cyber, mais le vrai test viendra quand Mythos devra tenir la distance sur des systèmes critiques sans noyer les humains sous les faux positifs.

Pour traquer les bots IA de ses forums, Reddit a trouvé la solution parfaite : utiliser l’IA

Reddit a publié un rapport détaillant sa stratégie de lutte contre les bots alimentés par l'intelligence artificielle, et la solution retenue par la plateforme est pour le moins ironique : combattre l'IA par l'IA. Selon les chiffres communiqués par l'entreprise, environ 25 000 publications et commentaires jugés suspects auraient été détectés chaque jour durant le premier trimestre 2026. Sur cette même période, Reddit affirme avoir bloqué 23 millions de vues liées à du contenu de spam et supprimé près de 2 millions de votes considérés comme artificiels quotidiennement. La plateforme annonce comme résultat global une baisse de 20 % de l'exposition des utilisateurs aux contenus indésirables. Concrètement, ce sont des modèles de langage qui analysent en continu le comportement des comptes, parfois avant même la publication d'un premier message, pour repérer les signaux d'automatisation. Ces résultats ont une portée qui dépasse le seul cas de Reddit. Les plateformes communautaires sont confrontées depuis plusieurs années à une prolifération de faux comptes capables d'imiter des échanges humains, de manipuler des votes ou de simuler des mouvements de popularité autour d'un contenu. Une modération plus rapide et plus précise change directement l'expérience des utilisateurs, qui voient moins de contenus manipulés remonter dans leurs fils, et renforce la crédibilité des discussions et des classements de la plateforme, un enjeu central pour un site dont la valeur repose largement sur l'authenticité des échanges entre internautes. La capacité annoncée à sanctionner un compte ou un contenu suspect en moins de cinq secondes illustre aussi une automatisation poussée de la détection, avec la possibilité de demander à certains utilisateurs de prouver qu'ils sont humains. Cette initiative s'inscrit dans un contexte plus large où la multiplication des contenus générés par IA complique la tâche des plateformes sociales, obligées de s'appuyer sur des outils toujours plus sophistiqués pour distinguer l'activité humaine de l'activité automatisée. Reddit précise toutefois ne pas vouloir tout confier aux machines : entre juillet et décembre 2025, les modérateurs humains restaient responsables de plus de 52 % des suppressions de contenus, un signe que l'entreprise mise sur une approche hybride plutôt que sur une automatisation totale de la modération.

Claude Mythos, une IA vraiment trop puissante pour notre propre bien ?

L'entreprise d'IA Anthropic a annoncé un nouveau grand modèle de langage baptisé Claude Mythos, accompagnant cette sortie d'une mise en garde inhabituelle : le modèle serait capable de "révolutionner la cybersécurité", mais pas nécessairement dans l'intérêt général. Cette déclaration, volontairement alarmante, illustre une stratégie de communication propre à Anthropic, qui publie systématiquement des fiches de sécurité ("system cards") détaillant les risques potentiels de ses modèles avant ou lors de leur lancement. Le signal envoyé est clair : Claude Mythos atteindrait un niveau de compétence suffisant pour assister à la conception ou à l'exploitation de failles de sécurité informatique, ce qui en ferait un outil à double tranchant pour les professionnels du secteur. Pour les entreprises, les gouvernements et les chercheurs en sécurité offensive et défensive, cela signifie que les barrières techniques séparant un attaquant averti d'un novice pourraient se réduire significativement. C'est précisément ce type de capacité, qualifiée d'"uplift" dans le jargon de la sécurité IA, qui inquiète les régulateurs et les experts en biosécurité et cybersécurité depuis plusieurs années. Anthropic se distingue de ses concurrents OpenAI et Google DeepMind par cette transparence proactive sur les risques de ses propres systèmes, une posture cohérente avec son positionnement d'entreprise fondée sur la sécurité IA ("AI safety"). La question qui se pose désormais est celle du contrôle d'accès : quels garde-fous techniques et contractuels Anthropic mettra-t-il en place pour limiter l'usage malveillant de Claude Mythos, et dans quelle mesure ces mesures seront-elles suffisantes face à des acteurs déterminés à contourner les restrictions.

💬 Anthropic joue encore la carte de la transparence proactive, et c'est plus rigoureux que les lancements en mode "fais-nous confiance" d'OpenAI. Publier une system card alarmiste sur un modèle qu'on sort quand même, ça couvre les arrières autant que ça informe. La vraie question, tu la connais déjà : qui vérifie que les garde-fous tiennent face à quelqu'un de vraiment motivé ?