Le vrai risque de l'IA en entreprise, ce n'est pas les agents autonomes, c'est leur complexité combinée
Les entreprises qui déploient des agents d'intelligence artificielle ne font plus face au risque d'un agent autonome isolé, mais à celui, plus insidieux, de la complexité qui s'installe entre des flottes entières d'agents interconnectés, selon une analyse publiée avec le soutien de la plateforme de gestion d'API Gravitee. Les organisations ne mettent plus en service un seul agent qu'elles peuvent surveiller, mais des dizaines, chacun appelant des API, d'autres agents, ou des applications jamais conçues pour interagir avec un décideur automatisé. Le constat est d'abord mathématique : ajouter un dixième agent à un système n'ajoute pas dix connexions supplémentaires mais potentiellement des dizaines, puisque chaque agent peut désormais solliciter n'importe quel autre, déclenchant à son tour des appels en cascade ailleurs. Un ticket de support qui transitait autrefois par un seul système peut aujourd'hui traverser quatre agents avant qu'un humain ne l'examine, chaque relais constituant un point de décision que personne n'a formellement validé.
Résumé et traduction réalisés par Le Fil IA à partir de VentureBeat AI. Lire l'article original →
Cette opacité a des conséquences concrètes pour les équipes de sécurité, souvent incapables de répondre à des questions basiques comme : quels agents peuvent accéder à quels systèmes, ou quel agent a déclenché quelle action trois étapes plus tôt. Deux dérives typiques s'installent. D'abord la dérive des permissions : un agent conçu pour résumer des tickets de support reçoit un accès API large parce que le restreindre correctement aurait demandé un sprint de développement supplémentaire ; six mois plus tard, ce même agent dispose d'un chemin vers le système de paiement sans que personne ne se souvienne avoir autorisé un tel accès. Ensuite la dilution de la responsabilité : lorsque cinq agents interviennent dans un même flux de travail et qu'une panne survient à la quatrième étape, personne n'est officiellement responsable de ce maillon, l'organisation s'étant arrêtée à "déployer l'agent" sans jamais désigner l'humain qui en répond.
Face à ce constat, l'analyse défend une approche à trois niveaux, jugeant les listes de contrôle ponctuelles inadaptées à un risque qui se propage en chaîne plutôt qu'en un point fixe dans le temps. Le premier niveau, l'identité, consiste à traiter chaque agent comme une entité propre, avec son nom dans un registre, une autorité strictement délimitée et un sponsor humain nommé, mais cela reste insuffisant à lui seul. Le deuxième niveau est la supervision de bout en bout de la chaîne, en temps réel plutôt qu'à travers des rapports trimestriels, afin de savoir ce qu'un agent a déclenché en aval. Le troisième niveau, souvent négligé, est l'application effective des règles : la capacité à bloquer un appel non conforme avant son exécution, plutôt que de simplement le consigner pour un examen ultérieur. Selon l'analyse, la plupart des programmes d'IA en entreprise n'ont construit que le premier ou le deuxième niveau, alors que la course à l'adoption de l'IA s'accélère sans que les infrastructures de gouvernance ne suivent le même rythme.
Gravitee, société française de gestion d'API, est associée à cette analyse, mais elle ne cible aucune régulation ou entité européenne précise.