Huit géants technologiques signent des contrats avec le Pentagone pour bâtir une force combattante axée sur l'IA sur des réseaux classifiés

Le Cyber Command américain déploie l'IA sur ses réseaux classifiés

Le Cyber Command américain a constitué une task force dédiée au déploiement de modèles d'intelligence artificielle développés par OpenAI, Google et d'autres fournisseurs sur les réseaux classifiés les plus sensibles du Pentagone et de la NSA. L'initiative marque une accélération inédite dans l'intégration de l'IA civile au sein des infrastructures de renseignement militaire américaines, habituellement hermétiques aux technologies commerciales. Le déclencheur de cette mobilisation est explicite : des systèmes comme Claude Mythos d'Anthropic sont désormais capables d'identifier des failles de sécurité plus rapidement que les meilleurs hackers humains. Anthropic a averti que des outils aux capacités comparables pourraient être accessibles au grand public d'ici six à vingt-quatre mois. Pour le Cyber Command, l'enjeu est donc d'armer ses propres réseaux avec ces capacités offensives et défensives avant que des adversaires étatiques ou des acteurs malveillants ne les utilisent à grande échelle contre les infrastructures américaines. Cette initiative s'inscrit dans une compétition technologique accélérée entre grandes puissances, où la Chine et la Russie investissent massivement dans l'IA militaire. Le déploiement sur des réseaux à très haute classification soulève également des questions complexes sur la chaîne de décision, la supervision humaine et les risques d'erreurs dans des environnements où les conséquences peuvent être irréversibles. La fenêtre de six à vingt-quatre mois évoquée par Anthropic crée une pression temporelle qui pousse le Pentagone à agir vite, quitte à bousculer ses procédures habituelles de validation et d'accréditation.

💬 La fenêtre de 6 à 24 mois que cite Anthropic, c'est le vrai sujet. Pas l'annonce en elle-même, mais la pression temporelle qu'elle crée : déployer de l'IA offensive sur des réseaux top secret en bousculant les procédures de validation, c'est exactement le genre de raccourci qui finit mal. Reste à voir si "aller vite" et "aller bien" sont compatibles quand les conséquences d'une erreur sont irréversibles.

Google et le Pentagone concluent un accord pour un usage de l'IA sans restriction légale

Google a conclu un accord classifié avec le département américain de la Défense (DoD) autorisant ce dernier à utiliser ses modèles d'intelligence artificielle pour "tout usage gouvernemental légal", selon un rapport de The Information publié lundi. La révélation intervient moins de vingt-quatre heures après qu'une partie des employés de Google a adressé une pétition au PDG Sundar Pichai, exigeant qu'il bloque l'accès du Pentagone à ses technologies, par crainte que celles-ci soient employées à des fins "inhumaines ou extrêmement préjudiciables". Cet accord positionne Google aux côtés d'OpenAI et xAI, qui ont eux aussi signé des contrats classifiés avec le gouvernement américain. La décision illustre la tension croissante au sein des grandes entreprises tech entre impératifs commerciaux et éthique de déploiement : le DoD représente un client stratégique de premier plan, mais ses usages potentiels des systèmes d'IA restent opaques pour le grand public comme pour les salariés de ces entreprises. Le contexte récent éclaire la portée de ce choix. Anthropic a été récemment inscrit sur liste noire par le Pentagone après avoir refusé de supprimer ses garde-fous de sécurité sur demande du DoD. Google, en acceptant un accès étendu et sans restrictions explicites, prend le chemin inverse. La question des applications militaires de l'IA, qu'il s'agisse de ciblage, de surveillance ou d'automatisation de décisions, s'impose désormais comme un enjeu central pour l'ensemble du secteur.

Une implémentation du Microsoft Agent Governance Toolkit pour un usage sécurisé des outils d'agents IA : politiques, validations, journaux d'audit et contrôles des risques

Microsoft a publié le Agent Governance Toolkit, un cadre de référence permettant de contrôler et d'auditer les actions des agents IA avant leur exécution. Un tutoriel d'implémentation, conçu pour fonctionner directement dans Google Colab, illustre concrètement son fonctionnement : les agents ne peuvent pas exécuter directement leurs outils. Chaque action est d'abord soumise à une couche de gouvernance qui vérifie l'identité de l'agent, son score de confiance, le niveau de risque de l'opération, la sensibilité des données concernées et les règles de politique applicables. Le système repose sur des fichiers de configuration YAML définissant des règles précises : blocage des opérations destructrices en base de données (suppression ou vidage de tables), approbation humaine obligatoire pour l'envoi d'e-mails vers des destinataires externes, exécution en bac à sable des commandes shell avec filtrage de termes dangereux comme rm -rf ou chmod 777, et refus d'accès aux données sensibles pour les agents dont le score de confiance est inférieur à 0,65. Le toolkit génère également des journaux d'audit infalsifiables, permet d'activer un coupe-circuit global et offre une visualisation graphique des relations entre agents, outils, règles et résultats. Cette architecture répond à un problème croissant dans le déploiement des agents IA : l'agentivité excessive. À mesure que ces systèmes deviennent capables d'enchaîner des actions autonomes, qu'il s'agisse d'écrire dans des bases de données, d'envoyer des e-mails ou d'exécuter du code, le risque qu'ils accomplissent des opérations non souhaitées ou dommageables augmente considérablement. Le toolkit propose un modèle où chaque action peut être autorisée, refusée, mise en sandbox ou redirigée vers un processus d'approbation humaine, selon des critères déterministes et traçables. Les règles s'appuient sur la taxonomie de risques de l'OWASP pour les agents IA, notamment les catégories « Tool misuse », « Goal hijacking » et « Unauthorized action », apportant un cadre de conformité reconnu aux équipes de sécurité. La publication de ce toolkit s'inscrit dans un mouvement plus large de l'industrie pour encadrer les agents autonomes, dont la prolifération s'est accélérée depuis 2024 avec l'essor de frameworks comme LangChain, AutoGen (lui aussi développé par Microsoft) et les API d'agents d'OpenAI et Anthropic. Microsoft, qui a massivement investi dans l'IA via son partenariat avec OpenAI et l'intégration dans Azure et Copilot, se positionne ainsi comme acteur de référence sur la gouvernance de ces systèmes. Le fait que l'implémentation soit reproductible dans un notebook Colab, sans infrastructure complexe, signale une volonté claire de démocratiser ces pratiques au-delà des grandes entreprises. Les étapes naturelles incluent l'intégration de ce type de couche dans les plateformes d'orchestration existantes et l'adoption de standards communs pour l'audit des décisions IA.

Télémétrie orientée gouvernance pour le contrôle en boucle fermée des systèmes IA multi-agents

Les systèmes d'IA multi-agents déployés en entreprise génèrent des milliers d'interactions inter-agents par heure, créant un défi de supervision inédit. Des chercheurs ont présenté GAAT (Governance-Aware Agent Telemetry), une architecture de référence conçue pour fermer la boucle entre la collecte de télémétrie et l'application automatique de politiques de gouvernance dans ces environnements complexes. L'architecture cible précisément le point aveugle laissé par les outils actuels comme OpenTelemetry ou Langfuse, qui enregistrent les données d'observabilité sans jamais intervenir en temps réel. Le problème que GAAT cherche à résoudre est concret : aujourd'hui, les violations de politiques dans les pipelines d'agents IA ne sont détectées qu'après coup, une fois les dommages causés. Ce fossé "observer-sans-agir" expose les entreprises à des risques opérationnels, réglementaires et de sécurité significatifs. En couplant la télémétrie à un moteur d'exécution de politiques, GAAT permet de détecter et bloquer une violation au moment même où elle se produit, transformant l'observabilité en levier de contrôle actif. Cette proposition s'inscrit dans un contexte où l'adoption des architectures multi-agents s'accélère fortement, notamment avec des frameworks comme LangGraph, AutoGen ou CrewAI, sans que les outils de gouvernance n'aient suivi le même rythme. Les régulations émergentes sur l'IA, en particulier l'AI Act européen, imposent des exigences croissantes de traçabilité et d'auditabilité des systèmes automatisés. GAAT représente une tentative de combler ce retard en proposant un standard d'architecture que les équipes d'ingénierie pourraient adopter avant que les incidents ne forcent leur main.