Pour traquer les bots IA de ses forums, Reddit a trouvé la solution parfaite : utiliser l’IA

Convaincue par Claude Mythos ? L’administration Trump s’en sert pour traquer les failles

L'administration Trump utilise désormais Claude Mythos, le modèle d'intelligence artificielle développé par Anthropic, pour renforcer la sécurité de ses logiciels gouvernementaux. Selon des informations rapportées par Reuters, la Cybersecurity and Infrastructure Security Agency (CISA) s'appuie sur cet outil pour passer au crible les dépôts de code utilisés par différentes administrations fédérales américaines. Une équipe spécialisée dans l'évaluation des surfaces d'attaque analyse ainsi automatiquement les logiciels afin de détecter d'éventuelles vulnérabilités. Les premiers résultats seraient déjà encourageants, Claude Mythos ayant permis d'identifier un grand nombre de failles nécessitant désormais des correctifs. La NSA avait pour sa part testé le modèle en amont pour analyser ses propres infrastructures informatiques, tandis que la CISA aurait obtenu un accès avant même la mise en place définitive des nouvelles règles d'utilisation encadrant ces technologies. Cette utilisation illustre l'intérêt croissant des administrations pour l'automatisation de tâches techniques complexes, en particulier dans le domaine de la cybersécurité. L'audit de code représente traditionnellement des centaines d'heures de travail manuel pour des experts humains ; une IA spécialisée permet d'accélérer considérablement cette phase de détection, sans pour autant remplacer l'analyse humaine, qui garde le dernier mot sur la validation des failles identifiées. L'enjeu est de taille : repérer les vulnérabilités avant qu'elles ne soient exploitées par des cybercriminels ou des services de renseignement étrangers. Pour les agences fédérales, confrontées à une pression constante sur leurs systèmes numériques, ce type d'outil représente un gain de rapidité et d'efficacité potentiellement décisif dans la protection des infrastructures critiques du pays. Cette adoption intervient toutefois dans un contexte marqué par des tensions récentes entre Anthropic et Washington. En juin dernier, l'administration avait temporairement restreint l'utilisation de plusieurs modèles Claude, dont Mythos, après la découverte d'une méthode permettant de contourner certaines de leurs protections internes. Anthropic avait alors suspendu l'accès mondial à plusieurs versions de son IA, le temps de renforcer ses mécanismes de sécurité, avant que les restrictions américaines ne soient finalement levées quelques semaines plus tard. Certaines agences fédérales avaient malgré tout continué à utiliser Claude Mythos dans des environnements contrôlés durant cette période. Ce contraste illustre bien la stratégie actuelle des autorités américaines, qui cherchent à encadrer des modèles d'IA jugés puissants tout en n'hésitant pas à les déployer lorsqu'ils offrent un avantage stratégique concret pour la sécurité nationale.

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

En 2025, la base de données nationale des vulnérabilités américaine (NVD) a enregistré plus de 48 000 nouvelles failles de sécurité référencées (CVE), un volume rendu possible en grande partie par la prolifération des outils automatisés de détection. Face à cette explosion, Amazon Web Services a développé RuleForge, un système d'intelligence artificielle agentique conçu pour générer automatiquement des règles de détection à partir d'exemples de code d'exploitation de vulnérabilités. Déployé en production chez AWS, RuleForge affiche une productivité supérieure de 336 % à la création manuelle, tout en conservant le niveau de précision exigé pour des systèmes de sécurité industriels. Les règles produites sont au format JSON et alimentent directement MadPot, le système mondial de "honeypot" d'Amazon qui capture le comportement des attaquants, ainsi que Sonaris, le moteur interne de détection d'exploits suspects. Avant RuleForge, transformer une CVE en règle de détection opérationnelle était un processus entièrement manuel : un analyste téléchargeait le code de preuve de concept, étudiait le mécanisme d'attaque, rédigeait la logique de détection, la validait par itérations successives contre les journaux de trafic, puis soumettait le tout à une revue par un second ingénieur avant déploiement. Ce cycle, rigoureux mais lent, obligeait les équipes à prioriser strictement les vulnérabilités traitées, laissant potentiellement des failles critiques sans couverture. RuleForge comprime ce délai de façon drastique : le système ingère automatiquement le code d'exploitation public, attribue un score de priorité via une analyse de contenu croisée avec des sources de threat intelligence, puis génère en parallèle plusieurs règles candidates via un agent tournant sur AWS Fargate avec Amazon Bedrock. Chaque candidate est évaluée non pas par le modèle qui l'a produite, mais par un agent "juge" distinct, évitant ainsi l'auto-validation biaisée. Les humains restent dans la boucle pour l'approbation finale avant mise en production. Cette architecture reflète une tendance profonde dans la sécurité offensive et défensive : l'automatisation par IA ne remplace pas les experts, elle leur permet de travailler à une échelle autrement inaccessible. AWS anticipe une croissance continue du nombre de CVE à haute sévérité publiées, portée par les mêmes outils d'IA qui accélèrent la découverte de failles côté attaquants. RuleForge représente la réponse symétrique côté défense, en industrialisant la réactivité. L'approche modulaire, avec des agents spécialisés pour la génération, l'évaluation et le raffinement, plutôt qu'un seul modèle monolithique, s'inscrit dans la lignée des architectures multi-agents qui émergent comme standard pour les tâches complexes nécessitant fiabilité et auditabilité. D'autres grands acteurs du cloud font face aux mêmes défis, et la publication par Amazon des détails de RuleForge suggère une volonté de positionner cette approche comme référence sectorielle.

Anthropic : son modèle Mythos serait utilisé par la NSA pour des opérations offensives contre la Chine et l'Iran

Anthropic a déployé une demi-douzaine d'ingénieurs directement au sein de la NSA pour adapter son modèle d'IA Mythos à des opérations cyber offensives. Selon des informations rapportées par The Decoder, ce modèle serait utilisé pour mener des intrusions dans des réseaux en Chine et en Iran. Il s'agit d'un positionnement inédit pour une entreprise d'IA qui se présente habituellement sous l'angle de la sécurité responsable et du développement maîtrisé des systèmes d'intelligence artificielle. Cette collaboration soulève des questions importantes sur la frontière entre IA commerciale et IA militaire. Anthropic, comme d'autres acteurs du secteur, avait formulé des engagements publics limitant certains usages de ses modèles, notamment la surveillance de masse. Or, ces restrictions s'appliquent explicitement aux seuls citoyens américains, laissant une marge d'utilisation considérable pour des opérations visant des populations étrangères. L'intégration directe d'ingénieurs civils dans une agence de renseignement militaire marque un pas supplémentaire vers la militarisation de l'IA grand public. Ce mouvement s'inscrit dans une dynamique plus large de course aux capacités cyber entre les États-Unis, la Chine et l'Iran, dans laquelle les grands modèles de langage jouent un rôle croissant pour automatiser la détection de vulnérabilités et la conception d'attaques. Anthropic rejoint ainsi OpenAI et d'autres laboratoires qui ont noué des partenariats avec le Pentagone ou les agences fédérales américaines. Le modèle Mythos, distinct des produits commerciaux comme Claude, semble avoir été conçu ou adapté spécifiquement pour répondre aux besoins classifiés de la communauté du renseignement.

💬 Le discours "sécurité responsable" d'Anthropic vient de prendre un sacré coup. Des ingénieurs civils intégrés directement à la NSA, un modèle dédié et classifié pour de la cyber offensive, des engagements publics qui s'appliquent aux seuls citoyens américains (le reste du monde, bonne chance) : c'est le genre de décision qui se justifie probablement en interne avec "si ce n'est pas nous, ce sera quelqu'un d'autre". OpenAI a fait le même virage, mais Anthropic se vendait différemment.

Treize mots sur Reddit suffisent à piéger une IA et lui faire recommander une arnaque

Des chercheurs de Cornell Tech, Tingwei Zhang, Harold Triedman et Vitaly Shmatikov, ont publié une prépublication décrivant une attaque qu'ils nomment WARP, pour Web Agent Retrieval Poisoning. Le principe est simple et redoutable : en insérant une quinzaine de mots promotionnels dans un seul commentaire sur Reddit ou une autre plateforme ouverte, il est possible d'influencer les réponses des agents de recherche IA qui fouillent le web pour synthétiser des informations. Dans leurs tests sur trois agents open source (STORM, Co-STORM et OmniThink), un faux produit ou service apparaissait dans 38 à 51 % des réponses lorsqu'une seule source empoisonnée était utilisée, et jusqu'à 62 % lorsque plusieurs appâts étaient combinés. Les chercheurs ont simulé des cas concrets : un restaurant fictif baptisé Sol Azteca, un service financier ciblant les seniors divorcés sous le nom SilverPath, une fausse cryptomonnaie, ou encore un service Xfinity inventé. Pour des raisons éthiques, aucune manipulation n'a été effectuée sur le web public réel. Cette vulnérabilité touche précisément les situations où l'utilisateur délègue son jugement à l'IA : choisir une application, trouver un restaurant, résoudre un problème technique ou comparer des offres commerciales. Le risque est que l'agent confonde proximité linguistique et crédibilité : un commentaire Reddit rédigé avec fluidité peut peser presque autant qu'une source institutionnelle aux yeux du modèle. Les plateformes participatives comme Reddit, Wikipédia ou Quora représentaient entre 17 et 23 % des sources analysées dans les tests, et un fil populaire pouvait réapparaître dans plusieurs requêtes voisines, démultipliant l'effet d'une seule manipulation. Du côté des outils grand public, Gemini Deep Research citait des sources Reddit dans environ 12 % des cas, contre seulement 0,4 % pour OpenAI Deep Research, ce qui suggère des niveaux de filtrage très différents, sans pour autant prouver qu'un utilisateur a réellement été trompé. La faille s'inscrit dans une tension structurelle des agents de recherche modernes : ils tirent leur richesse de la diversité des sources web, y compris les contenus générés par les utilisateurs, mais cette ouverture est précisément ce qui les expose à la manipulation. Bloquer les plateformes participatives appauvrit les réponses ; scanner chaque source ou analyser le texte final pour détecter des anomalies dégrade également les résultats, notamment parce que les appâts bien rédigés passent les filtres anti-spam classiques. Reddit affirme lutter contre les bots et les manipulations depuis deux décennies, mais ni la plateforme ni Wikipédia ne peuvent résoudre seuls ce problème structurel. La conclusion pratique des chercheurs est claire : les recommandations issues d'une recherche IA doivent être traitées comme des pistes de départ, pas comme des verdicts. Cliquer sur les citations, vérifier les noms inconnus et rester particulièrement vigilant face aux conseils impliquant un paiement reste, pour l'heure, la seule défense fiable.

💬 Treize mots dans un commentaire Reddit et l'agent recommande une arnaque financière à des seniors. C'est pas un bug exotique, c'est une faille structurelle : les agents IA valorisent la fluidité du texte presque autant que la provenance de la source, et les plateformes participatives représentent 20 % de leurs références. Tant qu'on traite les synthèses IA comme des verdicts plutôt que comme des points de départ, on offre une surface d'attaque en or à n'importe quel escroc qui sait rédiger proprement.