Le silence comportemental dans la négociation à base d'agents : formaliser et limiter les attaques par inférence via des politiques aléatoires
Les chercheurs à l'origine de cet article, accepté au workshop AI4TCI (AI for Secure and Trustworthy Critical Infrastructure Systems) organisé dans le cadre de la conférence internationale ARES 2026 (Availability, Reliability and Security), s'attaquent à un problème émergent dans le déploiement d'agents de négociation autonomes. Ces agents, de plus en plus utilisés dans des secteurs sensibles comme l'assurance et les achats professionnels (procurement), sont censés protéger la confidentialité des données grâce à des techniques cryptographiques qui chiffrent les valeurs explicitement communiquées, comme les prix ou les seuils de tolérance. Mais l'étude met en lumière une faille bien plus subtile: la fuite de confidentialité comportementale. Un adversaire peut, sans jamais accéder aux données chiffrées, déduire les contraintes privées d'un agent simplement en observant la dynamique de la négociation, notamment les trajectoires de concessions et le timing des réponses. Cette découverte a des implications concrètes pour toute organisation déployant des agents de négociation automatisés. Même sans violer directement le chiffrement, un concurrent ou un adversaire pourrait reconstituer les marges de manœuvre réelles d'une entreprise, sa stratégie de prix minimum ou ses priorités cachées, simplement en analysant le comportement observable de l'agent au fil des échanges. Cela fragilise la confiance placée dans ces systèmes pour des transactions à enjeux élevés. Ce travail s'inscrit dans une tendance plus large d'adoption de l'IA agentique pour automatiser des processus commerciaux complexes, où la sécurité cryptographique classique montre ses limites face à des attaques par inférence comportementale. Les auteurs proposent de formaliser cette menace et d'y répondre via des politiques randomisées, une piste de mitigation qui introduit de l'aléatoire dans le comportement de négociation pour brouiller les signaux exploitables par un observateur malveillant.
