« L’Europe doit montrer la voie en matière de gouvernance des armes autonomes et de l’IA militaire »

La souveraineté en matière d'IA et de données à l'ère des systèmes autonomes

Face aux risques croissants liés à la dépendance aux grandes plateformes d'intelligence artificielle, un mouvement de fond s'organise au sein des entreprises mondiales. Selon une enquête menée par EDB auprès de plus de 2 050 cadres dirigeants, 70 % d'entre eux estiment désormais avoir besoin d'une plateforme souveraine de données et d'IA pour rester compétitifs. Kevin Dallas, PDG d'EDB, résume le problème central : lorsqu'une entreprise déploie une application propulsée par un grand modèle de langage hébergé dans le cloud, elle risque de perdre sa propriété intellectuelle et son avantage concurrentiel, car ses données transitent par des systèmes qu'elle ne contrôle pas, soumis à des politiques qui peuvent changer à tout moment. En janvier 2026, Jensen Huang, PDG de Nvidia, a enfoncé le clou lors du Forum économique mondial de Davos, en appelant chaque pays à bâtir sa propre infrastructure d'IA, à exploiter sa langue et sa culture comme ressources naturelles, et à intégrer une intelligence nationale dans son écosystème technologique. L'enjeu dépasse la simple prudence juridique. Pour de nombreuses organisations, les données constituent désormais le principal actif immatériel, l'équivalent d'un brevet ou d'un secret de fabrication. Confier ces données à des modèles tiers, c'est potentiellement alimenter les systèmes de concurrents ou s'exposer à des fuites lors de mises à jour de conditions d'utilisation. La souveraineté en matière d'IA, c'est-à-dire la capacité à héberger, entraîner et gouverner ses propres modèles ainsi que ses données, devient ainsi un impératif stratégique autant qu'une nécessité réglementaire, en particulier dans des secteurs comme la finance, la santé ou la défense, où la confidentialité des informations est non négociable. Ce virage s'inscrit dans une trajectoire plus longue. Depuis les premières expérimentations avec l'IA générative en entreprise, le pari implicite était d'accepter une perte partielle de contrôle en échange de gains de productivité rapides. Mais l'arrivée des systèmes agentiques, capables d'agir de façon autonome sur des processus métier critiques, a rendu ce compromis intenable pour beaucoup. Les entreprises réévaluent aujourd'hui les fondements de leur infrastructure IA, cherchant à rapatrier modèles et données dans des environnements qu'elles maîtrisent réellement. Ce rapport d'EDB, réalisé en partenariat avec MIT Technology Review Insights, dessine les contours d'un marché en pleine recomposition, où la souveraineté numérique cesse d'être un idéal politique pour devenir un critère concret de choix technologique.

💬 Le truc qui change l'équation, c'est l'agentique. Tant que l'IA résumait des emails, on pouvait fermer les yeux sur où transitaient les données, mais dès qu'un agent autonome touche à tes processus métier critiques, la question du contrôle devient non-négociable. 70% des dirigeants qui réclament une infra souveraine, c'est pas de la paranoïa, c'est juste de la gestion de risque basique.

Des systèmes d'IA autonomes mettent à l'épreuve la gouvernance dans les environnements physiques

Le 20 mai dernier, l'Infocomm Media Development Authority (IMDA) de Singapour a publié la version 1.5 de son cadre de gouvernance pour les IA agentiques, au moment où les systèmes d'intelligence artificielle autonomes quittent les environnements logiciels pour s'installer dans les entrepôts, les réseaux de livraison et les espaces publics. Ce cadre définit des lignes directrices pour les organisations qui déploient des agents capables de planifier, décider et agir en plusieurs étapes pour accomplir des objectifs. Parallèlement, lors d'un sommet IA à Singapour la semaine dernière, des acteurs comme Grab ont présenté leurs expériences concrètes : l'entreprise pilote actuellement des véhicules autonomes et des robots de livraison dans le quartier de Punggol, à Singapour. Son directeur technique, Suthen Thomas Paradatheth, a détaillé leur approche : simulation intensive, tests en circuit fermé puis ouvert, et déploiement progressif avant tout passage à l'échelle. L'enjeu central est que les défaillances d'une IA dans le monde physique ont des conséquences bien plus graves que dans le domaine numérique. Le Dr Ya-Qin Zhang, doyen fondateur de l'Institute for AI Industry Research de l'université Tsinghua, a résumé le problème : "Tout risque dans le domaine numérique sera amplifié dans le domaine physique, et le domaine physique aura des conséquences physiques." Les systèmes de transport, les drones, les réseaux logistiques et les infrastructures critiques deviennent des points de vulnérabilité à mesure que l'IA s'intègre plus profondément dans les opérations physiques. Grab a également souligné qu'une longue traîne de problèmes imprévus peut surgir après le déploiement, ce qui rend la surveillance continue non négociable. La plupart des cadres de gouvernance existants se sont concentrés sur les risques en ligne : biais algorithmiques, désinformation, contenus nuisibles. L'émergence des IA incarnées dans des environnements physiques imprévisibles force une refonte de cette approche. Le cadre de l'IMDA préconise des déploiements graduels, une surveillance continue et des tests post-déploiement, reconnaissant explicitement que tous les risques ne peuvent être anticipés avant la mise en service. Les discussions au sommet de Singapour ont pointé vers des modèles de gouvernance fondés sur la télémétrie et les tests itératifs, plutôt que sur une certification unique. L'IMDA recommande aussi d'appliquer le principe du moindre privilège pour les accès des agents, de définir des procédures opérationnelles standard et de prévoir des mécanismes permettant de mettre hors ligne un agent défaillant. La question de la répartition des responsabilités entre développeurs, intégrateurs et opérateurs reste un chantier ouvert dans ce secteur en rapide mutation.

L’Europe vs Meta et Google : de nouvelles mesures (contraignantes) en approche

La Commission européenne a intensifié sa pression sur les géants américains du numérique au cours de la semaine du 14 avril 2026, en ciblant simultanément Meta et Google dans deux dossiers distincts liés à la concurrence sur les marchés de l'intelligence artificielle. Concernant Meta, la Commission a ouvert une procédure formelle fin 2025 pour pratiques anticoncurrentielles, estimant en février 2026 que l'entreprise avait enfreint les règles européennes en bloquant l'accès des assistants d'IA tiers à WhatsApp. Face à cette mise en cause, Meta a soumis le 2 mars 2026 une politique révisée censée lever l'interdiction, mais en introduisant un cadre tarifaire applicable aux assistants d'IA concurrents. La Commission a rejeté cette proposition, jugeant qu'elle produisait le même effet d'exclusion que la politique initiale. Elle a donc adressé à Meta une nouvelle série de griefs formels et annoncé son intention d'imposer des mesures provisoires pour prévenir tout préjudice grave et irréparable sur le marché pendant la durée de l'enquête. Dans le dossier Google, la Commission a proposé des mesures portant sur le partage des données issues du moteur de recherche, sans que les détails aient été pleinement rendus publics. Ces actions illustrent une préoccupation centrale des régulateurs européens : la capacité des plateformes dominantes à verrouiller l'accès aux marchés émergents de l'IA. En contrôlant l'interopérabilité de WhatsApp, Meta peut théoriquement déterminer quels assistants d'IA ont une chance de se développer à grande échelle en Europe, et à quel prix. Les mesures provisoires, si elles entrent en vigueur, auraient un effet immédiat : elles s'appliqueraient jusqu'à la conclusion de l'enquête, contraignant Meta à maintenir des conditions d'accès équitables pour ses concurrents indépendamment de l'issue finale du dossier. Pour les développeurs d'assistants d'IA tiers cherchant à atteindre les deux milliards d'utilisateurs de WhatsApp, l'enjeu est considérable. Ces procédures s'inscrivent dans une stratégie réglementaire européenne cohérente, bâtie sur le Digital Markets Act entré en application en mars 2024, qui désigne les grandes plateformes comme "gatekeepers" soumis à des obligations d'interopérabilité et d'accès équitable. La Commission a déjà ouvert plusieurs enquêtes similaires contre Apple, Alphabet et Amazon. Le cas Meta est notable car il concerne directement la bataille pour l'écosystème des assistants IA, un marché en croissance rapide où chaque point d'entrée compte. Google, de son côté, fait face à des exigences de partage de données de recherche qui pourraient restructurer l'accès à des signaux clés pour l'entraînement et l'amélioration des modèles. La réponse de Meta aux derniers griefs est attendue dans les prochaines semaines, avant une éventuelle décision formelle de la Commission.

💬 Meta a essayé de remplacer un blocage par un péage, et la Commission n'a pas mordu. C'est exactement le genre de manœuvre qu'on attendait : impossible d'ouvrir sans essayer de monétiser l'ouverture en même temps, bon, au moins c'est cohérent avec leur logique. Les mesures provisoires, si elles passent, changent vraiment la donne pour quiconque veut distribuer un assistant IA en Europe sans passer à la caisse de WhatsApp.

Les défis de gouvernance de l'IA à base d'agents face au règlement européen en 2026

Les agents d'intelligence artificielle capables d'agir de façon autonome, de déplacer des données entre systèmes et de déclencher des décisions sans intervention humaine posent un défi de gouvernance croissant pour les organisations européennes. À partir d'août 2026, l'entrée en vigueur des dispositions d'exécution de l'AI Act de l'Union européenne rendra ce défi juridiquement contraignant. Les articles 9 et 13 du texte imposent aux entreprises utilisant des systèmes d'IA dans des domaines à risque élevé, notamment le traitement de données personnelles ou les opérations financières, de maintenir une gestion des risques continue, documentée et révisable à chaque étape du déploiement, ainsi que de garantir que les sorties des systèmes soient interprétables par leurs utilisateurs. Les manquements à ces obligations exposeront les organisations à des pénalités substantielles. Pour les responsables informatiques, cela signifie concrètement qu'ils doivent être capables de prouver, pièces à l'appui, qu'un agent IA agit de façon sûre et légale. Or, beaucoup d'organisations échouent dès la première étape : elles ne disposent pas d'un registre centralisé de leurs agents en production, ni d'un enregistrement précis de leurs capacités et permissions. Sans traçabilité complète des actions, quand un agent interagit avec d'autres agents dans des architectures multi-agents, la chaîne de responsabilité devient impossible à reconstituer. Des solutions techniques existent, comme le SDK Python Asqav, qui signe cryptographiquement chaque action d'un agent et lie les enregistrements à une chaîne de hachage immuable, rendant toute falsification détectable. L'enjeu dépasse la technique : il touche directement à la capacité des entreprises à démontrer leur conformité réglementaire à tout instant. L'émergence des architectures agentiques complexes, où des systèmes délèguent des tâches à d'autres agents sans supervision humaine directe, a rendu obsolètes les approches traditionnelles de gouvernance logicielle. L'AI Act oblige désormais les entreprises à repenser leurs processus de bout en bout : tout agent doit avoir une identité unique, des permissions documentées, et surtout un mécanisme de révocation rapide, idéalement en quelques secondes, incluant la suppression immédiate des accès API et l'annulation des tâches en attente. La supervision humaine ne peut se limiter à un score de confiance ou à l'affichage d'une requête : les opérateurs doivent disposer d'un contexte suffisant pour intervenir avant qu'une erreur ne se produise. Les fournisseurs tiers d'IA sont également concernés, car leurs systèmes doivent être suffisamment documentés et interprétables pour que les entreprises clientes puissent en garantir un usage conforme à la loi.