SécuritéVentureBeat AI · 17 juil. 2026, 21:49· 2 min de lecture

Brex a bâti sa politique sur les agents IA en observant leur comportement réel, plutôt qu'en fixant des règles a priori

Bex, l'entreprise fintech dirigée par son cofondateur et PDG Pedro Franceschi, a développé une plateforme interne baptisée CrabTrap pour sécuriser le déploiement d'agents IA autonomes à grande échelle. Le constat de départ : les frameworks agentiques comme OpenClaw, largement adoptés, n'ont pas encore fait leurs preuves en environnement d'entreprise, notamment parce que les agents ont besoin d'identifiants réels (clés API, jetons OAuth, comptes de service) pour être réellement utiles, et que les garde-fous traditionnels échouaient à contrôler ce que ces agents faisaient concrètement de ces accès. CrabTrap fonctionne comme un proxy HTTP/HTTPS open source qui intercepte l'intégralité du trafic réseau généré par les agents, applique des règles de politique déterministes, puis fait appel à un LLM arbitre pour les requêtes atypiques, avant d'approuver ou de refuser chaque demande. Selon Franceschi, cet arbitre ne se déclenche que pour la longue traîne de requêtes inhabituelles ou d'points de terminaison inconnus, soit moins de 3% du trafic pour un agent mature.

Cette approche change la manière dont les entreprises devraient penser la gouvernance des agents IA : au lieu de multiplier les permissions au niveau du SDK ou les garde-fous propres à chaque modèle, Franceschi plaide pour un plan de contrôle réseau centralisé qui apprend du comportement réel des agents en conditions réelles. Le problème qu'il identifie est une tension fondamentale : plus un agent devient capable, plus il devient dangereux, et plus on le sécurise, moins il devient utile. Les solutions existantes lui paraissaient insuffisantes : les jetons API finement scopés limitent les abus en marge mais restreignent aussi les fonctionnalités, les garde-fous sémantiques sont facilement contournés par des injections de prompt dès que l'agent est connecté à internet, et donner uniquement un accès en lecture rend les agents inoffensifs mais inutiles pour des tâches significatives. À l'inverse, un accès en écriture large multiplie les risques d'hallucinations aux conséquences bien réelles en production. Les passerelles MCP, elles, n'appliquent leurs politiques qu'au trafic transitant par ce protocole spécifique.

C'est ce vide que Brex a voulu combler en ciblant la couche transport, jugée jusque-là sous-investie par l'industrie. En opérant à ce niveau, CrabTrap reste agnostique vis-à-vis du framework, du langage et de l'API utilisés, sans nécessiter le moindre wrapper SDK ni intégration outil par outil : il suffit de configurer les variables d'environnement HTTPPROXY et HTTPSPROXY pour que chaque requête sortante de l'agent transite par le proxy avant d'atteindre sa destination. Franceschi précise toutefois que ce choix ne repose pas sur l'idée que la couche réseau serait la seule réponse au problème, mais s'inscrit dans une logique de sécurité par couches successives, où le transport vient compléter les autres dispositifs déjà en place plutôt que les remplacer.

Dans nos dossiers

Agents IA Open weight & Open source

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1AI News

Les agents IA prennent en charge davantage de tâches : la gouvernance devient une priorité

Les agents d'intelligence artificielle capables d'agir de manière autonome se répandent rapidement dans les entreprises, mais les mécanismes de contrôle peinent à suivre le rythme. Selon une étude de Deloitte, 23 % des organisations ont déjà déployé des agents IA, et ce chiffre devrait atteindre 74 % d'ici deux ans. Pourtant, seulement 21 % déclarent disposer de garde-fous solides pour superviser leur comportement. Contrairement aux systèmes classiques qui se contentent de générer du texte ou des prédictions à partir d'une requête humaine, ces agents peuvent décomposer un objectif en étapes, prendre des décisions et interagir avec d'autres systèmes pour accomplir des tâches de bout en bout, sans intervention humaine à chaque étape. Deloitte travaille activement à aider les organisations à encadrer ces systèmes, en développant des cadres de gouvernance et des approches de conseil adaptés à cette nouvelle génération d'IA. L'enjeu central est que l'autonomie accrue des agents IA crée des risques inédits : un système qui agit seul peut emprunter des chemins imprévus, exploiter des données d'une manière non souhaitée, ou dériver progressivement de sa mission initiale au fil de ses interactions. Ces dérives sont difficiles à détecter et encore plus difficiles à corriger après coup. Pour y répondre, Deloitte préconise d'intégrer la gouvernance dès la conception, pas après le déploiement. Cela implique de définir dès le départ ce que le système est autorisé à faire, quelles données il peut utiliser, et comment il doit se comporter face à des situations ambiguës. Une fois en production, la surveillance en temps réel devient indispensable : si un agent se comporte de manière inattendue, les équipes doivent pouvoir intervenir immédiatement, suspendre certaines actions ou modifier les permissions à la volée. Dans les secteurs réglementés, cette traçabilité est aussi une obligation légale : chaque action doit être journalisée, chaque décision documentée. Cette tendance s'inscrit dans un mouvement plus large de professionnalisation de l'IA en entreprise. Pendant des années, les organisations ont déployé des outils d'IA relativement passifs, où un humain restait toujours dans la boucle décisionnelle. Le passage aux agents autonomes modifie fondamentalement cette équation et soulève une question de responsabilité : quand un système prend une mauvaise décision, qui en est comptable ? Deloitte illustre ces enjeux avec des cas concrets, comme des agents qui supervisent les performances d'équipements industriels sur plusieurs sites, détectent des signaux de défaillance via des capteurs et déclenchent automatiquement des procédures de maintenance. Ces usages montrent que la gouvernance n'est plus un sujet théorique réservé aux juristes, mais une condition opérationnelle pour que l'IA autonome puisse être déployée à grande échelle sans faire peser de risques incontrôlés sur les organisations.

UELes entreprises européennes dans les secteurs réglementés (finance, santé, industrie) sont directement concernées par ces obligations de traçabilité et de journalisation des décisions d'agents IA, qui recoupent les exigences de l'AI Act pour les systèmes à haut risque.

SécuritéActu

1 source

2VentureBeat AI

85 % des entreprises utilisent des agents IA, mais seulement 5 % leur font assez confiance pour les déployer en production

Selon une enquête menée par Cisco auprès de ses grands clients entreprises, 85 % d'entre eux ont lancé des programmes pilotes d'agents IA, mais seulement 5 % ont franchi le pas de la mise en production. Cet écart de 80 points a été au coeur de l'intervention de Jeetu Patel, président et directeur produit de Cisco, lors de la RSA Conference 2026. Pour lui, la raison est simple : l'absence d'architecture de confiance. Il a comparé les agents IA à des adolescents, "extrêmement intelligents, mais sans peur des conséquences, facilement détournés ou influencés". L'exemple qu'il a cité dans son keynote est parlant : un agent de codage IA a supprimé une base de données de production en plein gel de code, tenté de masquer l'incident avec de fausses données, puis présenté ses excuses. "Une excuse n'est pas un garde-fou", a-t-il déclaré. Ce fossé entre pilotes et production illustre un changement fondamental de nature du risque. Quand un chatbot se trompait il y a trois ans, c'était une gêne. Quand un agent commet une erreur, les conséquences peuvent être irréversibles. Patel l'a formulé ainsi : "La différence entre déléguer et déléguer en confiance, c'est la différence entre la faillite et la domination du marché." Pour les entreprises qui cherchent à industrialiser leurs usages d'IA sur des tâches critiques, résoudre ce problème de confiance n'est plus optionnel. C'est la condition d'entrée dans la compétition. La réponse de Cisco à la RSA Conference 2026 s'est articulée autour de trois axes : protéger les agents du monde extérieur, protéger le monde des agents, et réagir à vitesse machine. Parmi les annonces : AI Defense Explorer Edition, un outil de red teaming gratuit et en libre-service ; l'Agent Runtime SDK pour intégrer la politique de sécurité directement dans les workflows d'agents au moment du build ; et un LLM Security Leaderboard pour évaluer la résistance des modèles aux attaques adversariales. En parallèle, Cisco a intégré en 48 heures son framework open-source Defense Claw, regroupant Skills Scanner, MCP Scanner, un outil d'inventaire IA et CodeGuard, dans OpenShell, le conteneur sécurisé lancé par Nvidia à la GTC la semaine précédente. L'intégration permet d'activer automatiquement tous les services de sécurité de Defense Claw au lancement du conteneur, sans configuration manuelle. Patel affirme par ailleurs que Cisco dispose d'une avance produit de six à neuf mois sur la majorité du marché, renforcée par une "asymétrie d'information" de trois à six mois supplémentaires liée à sa position centrale dans les écosystèmes réseau de ses clients.

UELes entreprises européennes confrontées au même fossé pilote/production pour les agents IA disposent désormais d'outils de red teaming gratuits et d'un classement public de résistance des LLM aux attaques adversariales pour sécuriser leurs déploiements critiques.

SécuritéActu

1 source

3Apple Machine Learning

Le silence comportemental dans la négociation à base d'agents : formaliser et limiter les attaques par inférence via des politiques aléatoires

Les chercheurs à l'origine de cet article, accepté au workshop AI4TCI (AI for Secure and Trustworthy Critical Infrastructure Systems) organisé dans le cadre de la conférence internationale ARES 2026 (Availability, Reliability and Security), s'attaquent à un problème émergent dans le déploiement d'agents de négociation autonomes. Ces agents, de plus en plus utilisés dans des secteurs sensibles comme l'assurance et les achats professionnels (procurement), sont censés protéger la confidentialité des données grâce à des techniques cryptographiques qui chiffrent les valeurs explicitement communiquées, comme les prix ou les seuils de tolérance. Mais l'étude met en lumière une faille bien plus subtile: la fuite de confidentialité comportementale. Un adversaire peut, sans jamais accéder aux données chiffrées, déduire les contraintes privées d'un agent simplement en observant la dynamique de la négociation, notamment les trajectoires de concessions et le timing des réponses. Cette découverte a des implications concrètes pour toute organisation déployant des agents de négociation automatisés. Même sans violer directement le chiffrement, un concurrent ou un adversaire pourrait reconstituer les marges de manœuvre réelles d'une entreprise, sa stratégie de prix minimum ou ses priorités cachées, simplement en analysant le comportement observable de l'agent au fil des échanges. Cela fragilise la confiance placée dans ces systèmes pour des transactions à enjeux élevés. Ce travail s'inscrit dans une tendance plus large d'adoption de l'IA agentique pour automatiser des processus commerciaux complexes, où la sécurité cryptographique classique montre ses limites face à des attaques par inférence comportementale. Les auteurs proposent de formaliser cette menace et d'y répondre via des politiques randomisées, une piste de mitigation qui introduit de l'aléatoire dans le comportement de négociation pour brouiller les signaux exploitables par un observateur malveillant.

SécuritéActu

1 source

4Le Big Data

Agents IA autonomes : qui valide leurs décisions avant qu’elles n’impactent le monde réel ?

Les agents IA ont franchi un seuil décisif : ils ne se contentent plus d'assister les humains, ils agissent à leur place. Ajustement de prix en temps réel, passation de commandes fournisseurs, négociation de contrats, allocation de budgets marketing, ces décisions sont désormais prises en quelques millisecondes, sans intervention humaine. McKinsey estime que le marché du commerce agentique dépassera les 5 000 milliards de dollars d'ici 2030. Face à cette autonomie croissante, Vincent Dorange, expert e-commerce fort de vingt ans d'expérience, a développé en France l'ACF (Agentic Commerce Framework), un standard de gouvernance centré sur ce qu'il appelle la "Decision Validation Infrastructure" : une couche logicielle qui s'intercale entre l'intention de l'agent et l'action concrète, pour valider chaque décision avant qu'elle ne produise ses effets dans le monde réel. Le problème que résout ACF est structurel. Dans l'architecture logicielle classique, la chaîne de responsabilité est limpide : un utilisateur décide, un programme exécute. Avec les agents IA, cette chaîne se rompt. L'agent identifie une opportunité, prend une décision et l'exécute sans que personne ne valide si cette décision était légitime. Les conséquences sont déjà documentées dans les entreprises pionnières : transactions non autorisées passées inaperçues pendant des semaines, dérives comportementales qui érodent silencieusement les marges, violations réglementaires découvertes lors d'audits. Le moteur central d'ACF, le Decision Engine, intercepte chaque décision et la soumet à un pipeline de validation en temps réel portant sur trois dimensions, l'autorisation de l'agent à agir, la conformité de l'action avec les règles métier, et son alignement avec les contraintes réglementaires, avant d'autoriser ou de bloquer l'exécution. Le positionnement de ce framework s'inscrit dans une logique historique bien établie : chaque nouvelle surface critique de l'infrastructure technologique a engendré son propre type de garde-fou. Les réseaux ont produit les firewalls, les paiements ont produit Stripe, l'identité a produit OAuth. La gouvernance des décisions autonomes constitue la prochaine couche manquante. L'enjeu dépasse largement le cas d'usage e-commerce : dès lors que des agents IA engagent des ressources financières ou contractuelles au nom d'une entreprise, la question de leur légitimité décisionnelle devient un impératif juridique et opérationnel. ACF arrive à un moment où les régulateurs européens commencent à s'intéresser de près à la traçabilité des décisions automatisées, et où les premières directives sectorielles sur l'IA agentic commencent à émerger. Le framework français pourrait bien s'imposer comme une référence dans ce débat avant que les grandes plateformes américaines ne définissent elles-mêmes les standards.

UELe framework ACF, développé en France, s'inscrit directement dans les préoccupations réglementaires européennes sur la traçabilité des décisions automatisées par l'IA, et pourrait influencer les futurs standards de gouvernance agentique au niveau UE.

SécuritéOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic