Le framework de sécurité IA d'Uber encadre les agents autonomes à chaque étape de leur cycle de vie
Uber Engineering a détaillé un cadre de sécurité destiné aux agents d'intelligence artificielle autonomes, qui raisonnent sur des contenus externes et agissent dans le monde réel. Le constat de départ est que les systèmes classiques d'identité et d'autorisation savent dire si un utilisateur ou un service a le droit d'accéder à une ressource, mais pas si l'action proposée par un agent est appropriée dans son contexte. Cette lacune expose à l'injection de prompt, à l'empoisonnement des outils et de la mémoire, au détournement d'objectif, à la dérive comportementale et aux actions provoquées par des hallucinations. Le dispositif repose sur trois couches couvrant tout le cycle de vie : avant le déploiement, à l'exécution, puis en assurance continue. À la mise en service, chaque agent doit être enregistré dans l'AI Registry, qui consigne identité, responsable, persona, intentions autorisées, contraintes, dépendances et classification de risque. Cette étape est automatisée par Argus, qui analyse le code source, les prompts, les configurations, les dépendances, les points d'accès exposés et les chemins d'invocation d'outils, et la même logique s'applique aux serveurs MCP et aux outils utilisés par les agents.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de InfoQ AI. Lire l'article original →
À l'exécution, Uber étend le modèle classique d'administration, de décision et d'application des politiques par une autorisation comportementale, qui évalue si une action est pertinente dans une situation donnée. Elle s'appuie sur l'AI Registry, qui définit les politiques, personas, intentions et contraintes, sur les AI Guards, qui confrontent interactions et actions proposées à ces politiques, et sur les hooks d'exécution Agent Guard, qui appellent AI Guard à des points de contrôle critiques et appliquent son verdict avant qu'une action puisse se poursuivre. Après le déploiement, l'assurance continue repose sur l'observabilité de bout en bout, l'audit, l'explicabilité et le rejeu : une trace d'exécution unifiée relie actions, appels d'outils et décisions de sécurité, et les interactions enregistrées peuvent être rejouées à chaque mise à jour des politiques pour mesurer leur efficacité.
L'enjeu dépasse Uber, car toute entreprise qui confie des actions concrètes à des agents se heurte au même angle mort entre permission technique et pertinence d'une action. L'équipe reconnaît plusieurs difficultés en production : calibrer des politiques ni trop restrictives, source de faux positifs, ni trop laxistes, limiter la latence à l'exécution, réduire la friction pour les développeurs lors de la mise en place, et abandonner les contrôles génériques au profit de politiques propres à chaque agent, qui ont rendu l'application des règles plus contextuelle et plus précise. Ce dernier point est aussi le plus débattu. Tristan G., cadre supérieur en informatique à l'ONU, souligne que les personas, intentions et contraintes par agent apportent le plus de valeur mais que l'effort croît avec le nombre de flux de travail. Il note aussi que le contrôle jugé le plus efficace, la restriction à des contraintes explicites, relève du principe de moindre privilège, qui n'a rien de nouveau, et s'interroge sur les agents que l'on ne construit pas soi-même, comme ceux de fournisseurs ou de SaaS, où l'on ne peut pas insérer ses propres hooks.
Ces réserves rejoignent celles de l'architecte IA Pratik Dhanave, pour qui la leçon la moins spectaculaire est aussi la plus efficace : des intentions et contraintes explicites pour chaque agent plutôt que des seuils génériques, qui ont échoué parce que chaque agent a un objectif et un profil de risque différents. Le prix à payer est une perte de flexibilité, jugée acceptable par Uber. Le cadre reste en évolution, et l'entreprise prévoit d'étendre ses capacités dans chacun des domaines décrits. Sa trajectoire illustre le passage de la sécurité centrée sur l'identité vers une sécurité centrée sur le comportement, à mesure que les agents gagnent en autonomie, et la question de la gouvernance des agents tiers reste, elle, largement ouverte.