Aller au contenu principal
Sécurité · Actu ·

Microsoft lance une initiative pour rendre les agents d'IA vérifiables

Le 17 novembre 2026 à San Francisco, en ouvrant la conférence Ignite, Satya Nadella a annoncé l'AI Transparency Initiative de Microsoft, en affirmant que « ce que le modèle nous dit de lui-même n'est pas une preuve indépendante ». Le communiqué évoque plus de 40 organisations associées et en nomme cinq : Accenture, Adobe, KPMG, Mastercard et Volvo Cars. L'initiative compte trois volets. Microsoft veut élargir sa participation au programme du NIST sur les standards d'agents, lancé le 17 février 2026 par le CAISI, dont les trois échéances de participation (9 mars, 20 mars et 2 avril) sont déjà passées. Il veut aussi réunir ses partenaires autour de standards ouverts pour des systèmes d'IA vérifiables de façon indépendante, quel que soit le modèle ou le fournisseur. Enfin, ces travaux seront intégrés à Microsoft AI, Foundry et Copilot, afin que les clients exploitent les preuves produites avec leurs outils de sécurité et de conformité. Aucun calendrier, projet de spécification ni format de journal n'est publié, et ni OpenAI ni Anthropic ne figurent parmi les noms cités.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de ActuIA. Lire l'article original →

L'enjeu concret concerne les directions informatiques qui déploient des agents capables d'agir au nom de leurs employés. Microsoft propose que chaque élément de preuve sur l'identité de l'agent, l'intention qui lui a été déléguée et ses actions indique son origine : le modèle, l'environnement d'exécution ou des systèmes indépendants gérant l'identité et les règles. Le récit du modèle pourrait ainsi être confronté à des enregistrements observés ailleurs, sans dépendre uniquement de ce que le fournisseur du modèle raconte de son comportement. Mais le mécanisme reste décrit au conditionnel, et le texte ne précise ni qui exploite ces systèmes indépendants, ni si un tiers audite l'ensemble. Dans l'offre actuelle, l'identité des agents et l'accès conditionnel relèvent d'Entra, un produit de Microsoft : l'indépendance vis-à-vis du modèle ne vaut donc vis-à-vis de l'éditeur que si le format des preuves est ouvert et lisible par des outils concurrents, ce que le communiqué promet sans le détailler.

L'annonce conclut un automne où Microsoft a défendu l'idée qu'un agent d'IA se surveille comme un salarié à risque. Le 10 octobre, Satya Nadella réclamait dans un texte personnel que chaque action significative d'un modèle laisse une preuve « infalsifiable et lisible par un humain », un terme absent du communiqué de novembre. Le 19 octobre, l'éditeur détaillait sa doctrine : une identité et un registre pour chaque agent, un niveau de risque recalculé en continu et des droits qui se resserrent, sans statut ni date de disponibilité. À Ignite, seules des briques voisines ou plus anciennes passent en disponibilité générale. Project Perception, ouvert en octobre à un petit nombre de clients sur invitation, devient Microsoft Perception. La protection à l'exécution des agents sur les postes Windows, en préversion un mois plus tôt, est disponible pour une liste d'agents nommés, dont Claude Code et GitHub Copilot CLI, pour les clients de Defender for Endpoint P2. La suite dépendra de la publication effective de spécifications ouvertes et de l'adhésion des grands fournisseurs de modèles.

Impact France / UEChamp produit par Le Fil IA

Les directions informatiques européennes qui déploient des agents d'IA pourraient bénéficier de standards ouverts de preuve et de conformité, mais aucune spécification ni calendrier n'est publié.

À lire ensuite

01Microsoft considère les agents IA comme des « initiés » indignes de confianceNext INpactSécurité 02Microsoft lance MXC, un bac à sable au niveau OS pour agents IA, avec OpenAI et Nvidia à bordVentureBeat AISécurité 03Microsoft lance un modèle de cybersécurité IA et une plateforme de défense à base d'agents pour réduire les coûtsVentureBeat AISécurité 
Dossier · MicrosoftSuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.