Nouveau ransomware vise les poids des modèles d'IA, sans même pouvoir encaisser la rançon

☕️ Washington veut pouvoir tester les nouveaux modèles IA avant tout le monde

Microsoft, Google et xAI ont conclu des accords avec le Centre américain pour les standards et l'innovation en IA (CAISI) afin de lui fournir un accès anticipé à leurs modèles les plus avancés avant tout déploiement public. Ces modèles seront livrés sans garde-fous de sécurité, ce qui permettra aux chercheurs gouvernementaux de tester leurs capacités dans des scénarios hostiles réalistes. Le CAISI, qui avait déjà signé des accords similaires avec OpenAI et Anthropic, compte à ce jour une quarantaine d'évaluations de modèles à son actif, dont certains n'avaient pas encore été mis à la disposition du grand public. Microsoft a confirmé auprès de Reuters cette collaboration visant à identifier des "comportements inattendus" dans ses systèmes, et a par ailleurs signé un accord comparable avec l'AI Security Institute britannique. Cette initiative répond à une préoccupation croissante à Washington : ne pas découvrir les capacités réelles d'un nouveau modèle IA en même temps que le reste du monde, hackers inclus. Le lancement récent de Mythos, le modèle de pointe d'Anthropic, a cristallisé ces inquiétudes chez les spécialistes de la cyberdéfense. Entre les mains de pirates informatiques, un tel système pourrait potentiellement identifier et exploiter des failles dans des infrastructures critiques à une vitesse et une échelle inédites. C'est précisément pour limiter ce risque que le déploiement de Mythos a été restreint à une cinquantaine d'organisations sélectionnées. Le CAISI a ainsi fait évoluer sa mission : au-delà du développement de standards de tests, il évalue désormais les risques stratégiques et militaires que font peser ces modèles sur la sécurité nationale. Créé sous l'administration Biden comme AI Safety Institute, rattaché au département du Commerce, cet organisme a été rebaptisé CAISI par l'administration Trump tout en conservant ses attributions fondamentales. Son rôle s'inscrit dans un resserrement général des liens entre Washington et l'industrie de l'IA. La semaine précédant ces annonces, le Pentagone dévoilait des accords avec plusieurs fournisseurs d'IA pour l'exploitation de leurs modèles dans des missions classifiées, écartant notamment Anthropic du lot principal, même si Mythos pourrait malgré tout y être intégré selon certaines sources. La course aux modèles de frontière confronte ainsi les grandes puissances à un dilemme inédit : plus ces systèmes sont capables, plus ils deviennent à la fois des atouts stratégiques et des vecteurs de risques que les États cherchent à anticiper avant que le marché ne les diffuse à tous.

Ce ransomware dopé à l’IA peut mener une cyberattaque presque sans intervention humaine

Un ransomware baptisé JadePuffer, découvert début juillet 2026 par les chercheurs de Sysdig, constitue selon eux le premier cas documenté d'une opération d'extorsion pilotée presque intégralement par un agent d'IA. L'attaque a exploité une vulnérabilité critique référencée CVE-2025-3248 dans Langflow, une plateforme open source utilisée pour développer des applications basées sur l'IA, exposée sur internet. Une fois l'accès obtenu, l'agent a fouillé le serveur pour récupérer des identifiants cloud, des clés privées de portefeuilles de cryptomonnaies et des accès à des bases de données. Sysdig a publié ses conclusions le 1er juillet 2026, précisant que le code généré par l'agent contenait de nombreux commentaires détaillant son raisonnement, une caractéristique typique des modèles d'IA et peu commune chez des cybercriminels pressés d'agir. Lors d'une tentative de création d'un compte administrateur caché, l'opération a échoué ; l'agent a alors identifié le problème, modifié son propre code et relancé la procédure en une trentaine de secondes, sans intervention humaine. Le ransomware a ensuite chiffré des fichiers, supprimé certains documents, puis déposé une demande de rançon avec une adresse Bitcoin et un contact e-mail. Cette autonomie change la donne pour l'industrie de la cybersécurité. Des opérations qui nécessitaient auparavant plusieurs spécialistes coordonnés, de l'intrusion initiale jusqu'à la négociation de la rançon, peuvent désormais être en grande partie automatisées par un seul agent capable de s'adapter à ses propres échecs. Sysdig souligne un détail particulièrement inquiétant : la clé de chiffrement n'a pas été conservée, ce qui signifie que même les victimes acceptant de payer n'auraient probablement pas pu récupérer leurs données. Cela suggère que certains attaquants n'ont plus pour objectif de négocier, mais simplement de détruire l'accès aux données. Pour les entreprises utilisant des plateformes d'IA exposées publiquement, comme Langflow, le risque devient double : une faille technique classique combinée à une exploitation automatisée et rapide qui laisse peu de temps de réaction. Les chercheurs appellent toutefois à la prudence quant à l'ampleur réelle de l'autonomie de l'attaque. Dans le cas de JadePuffer, un pirate humain a préparé le terrain en amont : il a choisi la cible, configuré les serveurs nécessaires et fourni des identifiants déjà volés lors d'une intrusion antérieure. L'IA n'a donc pas conçu seule l'ensemble du plan d'attaque, mais a pris le relais pour exécuter et adapter les étapes techniques. Les experts redoutent surtout un changement d'échelle : si de tels outils deviennent accessibles à davantage de groupes malveillants, la barrière technique nécessaire pour mener une cyberattaque sophistiquée continuera de s'abaisser, permettant de lancer plusieurs campagnes en parallèle avec moins de ressources humaines. Pour l'instant, l'humain reste aux commandes des décisions stratégiques, mais l'assistant IA gagne en autonomie sur l'exécution.

Anthropic lance un nouveau modèle d'IA pour la cybersécurité

Anthropic lance un nouveau modèle d'intelligence artificielle dédié à la cybersécurité, dans le cadre d'un partenariat baptisé Project Glasswing réunissant Nvidia, Google, Amazon Web Services, Apple, Microsoft et d'autres grandes entreprises technologiques. Ce projet propose aux partenaires de lancement un accès à Claude Mythos Preview, un modèle généraliste inédit qu'Anthropic ne prévoit pas de rendre public en raison de préoccupations liées à la sécurité. L'objectif affiché est de permettre aux grandes organisations, et potentiellement aux gouvernements, de détecter automatiquement des vulnérabilités dans leurs systèmes avec une intervention humaine quasi nulle. L'enjeu est considérable pour les équipes de sécurité informatique qui font face à un volume croissant de menaces et manquent souvent de ressources pour les auditer manuellement. En automatisant la détection de failles, Claude Mythos Preview pourrait réduire drastiquement le temps de réponse face aux cyberattaques et permettre aux entreprises d'identifier des vulnérabilités avant que des acteurs malveillants ne les exploitent. Newton Cheng, responsable cyber au sein de l'équipe red team d'Anthropic, indique que le modèle vise à donner aux équipes de sécurité un avantage structurel sur leurs adversaires. Cette initiative s'inscrit dans une tendance de fond où les grands laboratoires d'IA cherchent à positionner leurs modèles sur des secteurs critiques à haute valeur ajoutée. Anthropic, qui se distingue par son approche axée sur la sécurité des systèmes d'IA, choisit ici de restreindre l'accès à ce modèle plutôt que de le diffuser largement, une décision rare qui soulève des questions sur la gouvernance des outils d'IA offensifs et défensifs dans un contexte géopolitique tendu.

IA & RH : l’entraînement des modèles expose les données sensibles de votre entreprise

Mercor, une plateforme spécialisée dans le recrutement de travailleurs qualifiés pour l'entraînement de modèles d'IA, a été victime début avril 2026 d'une faille de sécurité liée à LiteLLM, un projet open source intégré à son infrastructure. Selon TechCrunch, la brèche a permis à des attaquants, identifiés comme le groupe ShinyHunters, de compromettre des échanges internes Slack ainsi que des interactions entre humains et systèmes d'IA. Mercor aurait versé une rançon pour limiter les dégâts. L'entreprise travaillait notamment avec OpenAI et Anthropic pour affiner leurs modèles. Des données à caractère personnel auraient été exposées, incluant selon Business Insider des adresses personnelles, des identifiants et potentiellement des numéros de sécurité sociale de travailleurs impliqués dans ces missions. Cet incident illustre une vulnérabilité structurelle qui dépasse le simple incident technique. Les entreprises qui externalisent l'entraînement de leurs modèles d'IA confient de fait des données internes sensibles à des tiers dont elles ne maîtrisent ni les pratiques de sécurité ni les standards de gouvernance. Quand ces tiers s'appuient eux-mêmes sur des outils open source comme LiteLLM, chaque dépendance devient un point d'entrée potentiel. Pour les directions RH et IT, cela signifie que l'entraînement de l'IA n'est plus seulement une question technique : c'est une extension directe de la gestion des données sensibles de l'entreprise, avec des conséquences juridiques et réglementaires directes en cas de fuite, notamment sous le RGPD. Le modèle économique de Mercor repose sur une externalisation massive : des travailleurs indépendants, souvent sous-employés, annotent et corrigent des modèles destinés en partie à automatiser leur propre travail. Ces profils interviennent au coeur de systèmes internes sans toujours connaître les entreprises ni les données qu'ils manipulent, créant une zone grise documentée par New York Magazine. StrikeGraph rappelle que toute la chaîne d'approvisionnement de l'IA repose sur une multiplicité d'acteurs externes, plateformes d'annotation, freelances et outils communautaires, dont chaque maillon peut être compromis. L'affaire Mercor marque un signal d'alarme pour l'ensemble du secteur : à mesure que les entreprises accélèrent leurs projets d'IA, la question du contrôle de la chaîne de sous-traitance devient aussi critique que celle des modèles eux-mêmes.

💬 Tu sous-traites l'entraînement de tes modèles à une plateforme qui s'appuie sur un outil open source que personne n'a vraiment audité, et tu t'étonnes qu'il y ait une faille ? Ce qui m'inquiète ici, c'est moins Mercor que le modèle lui-même : dès qu'un tiers touche à tes données internes pour affiner un LLM, tu perds le contrôle sur toute la chaîne. OpenAI et Anthropic en face, ça rassure sur le papier, mais la sécurité ça ne se délègue pas.