La souveraineté en matière d'IA et de données à l'ère des systèmes autonomes

« L’Europe doit montrer la voie en matière de gouvernance des armes autonomes et de l’IA militaire »

Vincent Boulanin, chercheur spécialisé dans les technologies militaires, a publié une tribune dans Le Monde appelant les gouvernements européens à prendre le leadership mondial sur la gouvernance de l'intelligence artificielle militaire et des armes autonomes. Sa thèse centrale : les États-Unis, sous l'administration actuelle, se désengagent progressivement des cadres multilatéraux de régulation qu'ils avaient eux-mêmes contribué à établir ces dernières années, laissant un vide stratégique que l'Europe doit combler. Ce retrait américain n'est pas anodin. La gouvernance de l'IA militaire — qui encadre notamment le développement des systèmes d'armes létaux autonomes, capables de sélectionner et d'engager des cibles sans intervention humaine — est un enjeu à la fois éthique, stratégique et économique. Boulanin argue que les pays européens ont tout à gagner à s'imposer comme référents dans ce domaine : cela renforcerait leur crédibilité diplomatique, orienterait les normes internationales dans un sens compatible avec leurs valeurs, et positionnerait leur industrie de défense sur un marché en pleine expansion. Le contexte est celui d'une course mondiale à l'armement autonome, où la Chine, la Russie et les États-Unis investissent massivement, tandis que les négociations onusiennes sur un traité contraignant piétinent depuis des années. L'Europe, notamment via des initiatives portées à l'ONU et au sein de l'UE, a déjà esquissé des positions ambitieuses. Boulanin les invite à ne pas renoncer à cette ambition sous prétexte de pragmatisme ou de pression des alliés — car l'absence de règles du jeu claires dans ce domaine pourrait avoir des conséquences durables sur la stabilité internationale.

Des systèmes d'IA autonomes mettent à l'épreuve la gouvernance dans les environnements physiques

Le 20 mai dernier, l'Infocomm Media Development Authority (IMDA) de Singapour a publié la version 1.5 de son cadre de gouvernance pour les IA agentiques, au moment où les systèmes d'intelligence artificielle autonomes quittent les environnements logiciels pour s'installer dans les entrepôts, les réseaux de livraison et les espaces publics. Ce cadre définit des lignes directrices pour les organisations qui déploient des agents capables de planifier, décider et agir en plusieurs étapes pour accomplir des objectifs. Parallèlement, lors d'un sommet IA à Singapour la semaine dernière, des acteurs comme Grab ont présenté leurs expériences concrètes : l'entreprise pilote actuellement des véhicules autonomes et des robots de livraison dans le quartier de Punggol, à Singapour. Son directeur technique, Suthen Thomas Paradatheth, a détaillé leur approche : simulation intensive, tests en circuit fermé puis ouvert, et déploiement progressif avant tout passage à l'échelle. L'enjeu central est que les défaillances d'une IA dans le monde physique ont des conséquences bien plus graves que dans le domaine numérique. Le Dr Ya-Qin Zhang, doyen fondateur de l'Institute for AI Industry Research de l'université Tsinghua, a résumé le problème : "Tout risque dans le domaine numérique sera amplifié dans le domaine physique, et le domaine physique aura des conséquences physiques." Les systèmes de transport, les drones, les réseaux logistiques et les infrastructures critiques deviennent des points de vulnérabilité à mesure que l'IA s'intègre plus profondément dans les opérations physiques. Grab a également souligné qu'une longue traîne de problèmes imprévus peut surgir après le déploiement, ce qui rend la surveillance continue non négociable. La plupart des cadres de gouvernance existants se sont concentrés sur les risques en ligne : biais algorithmiques, désinformation, contenus nuisibles. L'émergence des IA incarnées dans des environnements physiques imprévisibles force une refonte de cette approche. Le cadre de l'IMDA préconise des déploiements graduels, une surveillance continue et des tests post-déploiement, reconnaissant explicitement que tous les risques ne peuvent être anticipés avant la mise en service. Les discussions au sommet de Singapour ont pointé vers des modèles de gouvernance fondés sur la télémétrie et les tests itératifs, plutôt que sur une certification unique. L'IMDA recommande aussi d'appliquer le principe du moindre privilège pour les accès des agents, de définir des procédures opérationnelles standard et de prévoir des mécanismes permettant de mettre hors ligne un agent défaillant. La question de la répartition des responsabilités entre développeurs, intégrateurs et opérateurs reste un chantier ouvert dans ce secteur en rapide mutation.

Les contrôles à l'exportation d'Anthropic déclenchent une course mondiale à la souveraineté en IA

Le 13 juin 2026, un ordre gouvernemental américain a mis hors ligne deux des modèles d'intelligence artificielle les plus puissants d'Anthropic, Fable 5 et Mythos 5, pour tous les utilisateurs étrangers dans le monde entier, y compris, brièvement, les employés d'Anthropic eux-mêmes nés à l'étranger. La directive, signée par le secrétaire au Commerce Howard Lutnick et adressée au PDG Dario Amodei, ordonnait la suspension de tout accès par des ressortissants étrangers, qu'ils se trouvent aux États-Unis ou non. La rapidité de l'opération a frappé les esprits : Fable 5 avait été mis à disposition du grand public le 9 juin, quatre jours seulement avant d'être désactivé. Anthropic a reçu la lettre d'injonction à 17h21 le 12 juin et, faute de pouvoir filtrer ses utilisateurs par nationalité en temps réel, a dû "abruptement couper" l'accès à l'ensemble de sa clientèle pour se conformer à l'ordre. Au coeur du litige se trouve une méthode de contournement des garde-fous de sécurité de Fable 5, ce que l'on appelle un "jailbreak". Washington avance que cette faille permettrait d'accéder à des informations susceptibles d'aider des cyberattaques, une accusation renforcée selon le Wall Street Journal par Andy Jassy, PDG d'Amazon et l'un des principaux investisseurs d'Anthropic, qui aurait alerté le secrétaire au Trésor Scott Bessent après que des chercheurs d'Amazon ont reproduit le problème. Anthropic conteste la gravité du risque, affirmant que la technique en question se limite à une capacité d'examen de code déjà présente chez des modèles concurrents, dont GPT-5.5 d'OpenAI. David Sacks, co-président du conseil scientifique de la Maison-Blanche, a publiquement contredit cette version sur X, affirmant que l'administration avait demandé à Amodei de corriger la vulnérabilité ou de retirer le modèle, et qu'Amodei avait refusé. L'affaire a déclenché une onde de choc en Europe et au Canada, ravivant les inquiétudes sur la souveraineté numérique et la dépendance à des infrastructures d'IA contrôlées par le gouvernement américain. Cette crise ne surgit pas du néant. Le conflit entre Anthropic et Washington s'est cristallisé plus tôt en 2026, lorsque l'entreprise a refusé que ses technologies soient utilisées à des fins de surveillance de masse ou pour des systèmes d'armes entièrement autonomes, suscitant la colère du secrétaire à la Défense Pete Hegseth. Donald Trump avait alors ordonné à chaque agence fédérale de cesser d'utiliser les produits d'Anthropic, et Hegseth avait désigné la société comme un "risque pour la chaîne d'approvisionnement de la sécurité nationale". Fable 5 était lui-même le dérivé grand public d'une famille de modèles plus puissants, les modèles de classe Mythos, développés depuis avril 2026 dans le cadre du programme à accès restreint Project Glasswing. L'épisode illustre de façon brutale une réalité que beaucoup d'acteurs internationaux préféraient ignorer : le droit américain peut couper l'accès à des outils devenus infrastructures critiques, du jour au lendemain, sans préavis.

💬 Quatre jours entre le lancement de Fable 5 et sa désactivation forcée, sur la base d'un jailbreak qu'Anthropic conteste elle-même. C'est exactement le scénario que les partisans de la souveraineté numérique décrivaient depuis des années, mais là c'est réel, une lettre à 17h21 et l'accès coupé pour toute la planète sans préavis ni recours. Espérons que ça suffira à déclencher autre chose qu'un rapport de commission.

Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve

Le Sénat français a adopté à l'unanimité, le 8 avril 2026, une proposition de loi instaurant une présomption d'utilisation des contenus culturels protégés par le droit d'auteur lors de l'entraînement des systèmes d'intelligence artificielle. Portée par la sénatrice Agnès Evren (LR), le texte dispose que toute œuvre protégée par un droit d'auteur ou un droit voisin est présumée avoir été utilisée par un fournisseur d'IA dès lors qu'un indice rend cette utilisation vraisemblable, par exemple, si un chatbot est capable de citer des extraits d'un livre. En cas de contentieux, ce ne sera donc plus au créateur de prouver que son œuvre a été moissonnée, mais à l'opérateur de l'IA de démontrer qu'il ne l'a pas utilisée de façon irrégulière. La proposition doit désormais passer en première lecture à l'Assemblée nationale. Ce renversement de la charge de la preuve modifie structurellement le rapport de force entre ayants droit et géants technologiques. Jusqu'ici, les créateurs, auteurs, éditeurs, musiciens, journalistes, se trouvaient dans l'impossibilité pratique de prouver que leurs œuvres avaient servi à entraîner des modèles dont les données d'entraînement restent opaques, souvent protégées par le secret des affaires. La nouvelle présomption leur offre un levier juridique concret : obliger les entreprises d'IA à justifier leurs pratiques devant un tribunal, ou, mieux, à négocier des accords de licence en amont pour éviter les procédures. Pour l'industrie de l'IA, cela implique une pression accrue vers la transparence sur les corpus d'entraînement, avec des conséquences potentielles sur les modèles entraînés massivement sur du contenu web non licencié. La proposition s'inscrit dans un mouvement plus large de régulation du rapport entre IA et propriété intellectuelle. Au niveau européen, le rapport de l'eurodéputé Alex Voss, voté le 11 mars 2026 au Parlement européen, recommandait déjà d'instaurer une présomption réfragable similaire, bien que limitée aux cas de non-respect des obligations de transparence prévues par l'AI Act. Le Sénat français va donc plus loin que Bruxelles, ce qui n'a pas manqué de susciter des réserves du côté du gouvernement : les ministres de la Culture et du Numérique ont mis en garde contre les risques de judiciarisation excessive et d'insécurité juridique, préférant privilégier la voie de la négociation. Ce débat illustre la tension persistante entre la nécessité de protéger la création culturelle et celle de ne pas entraver le développement d'une industrie dans laquelle la France et l'Europe cherchent à peser face aux acteurs américains et chinois.

💬 C'est le renversement qu'on attendait depuis que les premiers procès ont calé faute de preuves. Obliger les opérateurs à justifier leurs corpus plutôt que d'imposer aux créateurs de prouver le pillage, c'est enfin remettre la charge du côté qui a les moyens de l'assumer. Reste à voir ce que l'Assemblée en fait, et si le gouvernement ne vide pas le texte de sa substance sous prétexte de "compétitivité".