Collaborer avec les CAISI américains et les AISI britanniques pour construire des systèmes d'IA plus sécurisés

Le Conseil national de sécurité allemand approuve un Institut de sécurité pour l'IA inspiré de l'AISI britannique

Le Conseil de sécurité nationale allemand a approuvé la création d'un institut de sécurité dédié à l'intelligence artificielle. Baptisé "DE-AISI", cet organisme aura pour mission d'évaluer les risques posés par les modèles d'IA de pointe, notamment ceux développés par Anthropic et OpenAI. Il s'inspire directement du modèle britannique, l'AI Safety Institute (AISI) du Royaume-Uni, pionnier en la matière depuis sa création en 2023. La création du DE-AISI marque une étape concrète dans la volonté européenne de reprendre la main sur la gouvernance de l'IA. En soumettant les modèles les plus puissants à des audits de sécurité indépendants, l'Allemagne entend réduire les risques systémiques liés au déploiement de ces technologies dans des secteurs critiques. Cela concerne aussi bien les institutions publiques que les entreprises et les infrastructures sensibles. Derrière cette initiative se profile toutefois une tension structurelle difficile à résoudre : l'Europe ne dispose d'aucun modèle frontalier propre, ce qui la rend entièrement dépendante des technologies américaines et chinoises. Or, des acteurs comme Anthropic ou OpenAI entretiennent des liens étroits avec leurs gouvernements respectifs, soulevant des questions sur la neutralité et l'accès réel aux données de ces systèmes. L'initiative allemande s'inscrit dans un mouvement plus large, porté par plusieurs pays européens et par la Commission européenne, qui cherche à instaurer des mécanismes de contrôle sans pour autant disposer des leviers industriels nécessaires pour peser véritablement dans la course mondiale à l'IA.

💬 C'est une bonne nouvelle, mais faut pas se raconter d'histoires. L'Allemagne copie le modèle britannique pour auditer des modèles qu'elle ne contrôle pas, avec des données qu'Anthropic et OpenAI ne seront jamais vraiment obligés de partager. Réguler sans produire, c'est un peu arbitrer un match où t'as pas d'équipe sur le terrain.

Fonds souverain britannique pour l'IA consolide sa structure cybernétique

Le Royaume-Uni lance officiellement le 16 avril son fonds souverain pour l'IA, doté de 500 millions de livres sterling, avec pour objectif de développer une infrastructure informatique nationale indépendante des hyperscalers étrangers (AWS, Google Cloud, Azure). Piloté par James Wise de Balderton Capital, le fonds s'appuie sur des supercalculateurs domestiques comme Isambard-AI à Bristol et Dawn à Cambridge, et a déjà investi 8 millions de livres dans le consortium OpenBind, qui cartographie les interactions moléculaires à une échelle 20 fois supérieure aux bases de données existantes. L'initiative vise à protéger la propriété intellectuelle locale et à réduire les coûts de R&D — jusqu'à 40 % dans le secteur pharmaceutique — tout en capitalisant sur un marché tech national estimé à 1 000 milliards de livres et plus de 5 800 entreprises d'IA.

Le Trésor américain publie un guide sur les risques liés à l'IA pour les institutions financières

Le Departement du Trésor des États-Unis a publié un guide sur les risques liés à l'IA pour le secteur financier, intitulé CRI Financial Services AI Risk Management Framework (FS AI RMF). Ce guidebook, résultat d'une collaboration de plus de 100 institutions financières et organisations industrielles, vise à aider les établissements financiers à identifier, évaluer, gérer et régir les risques associés aux systèmes d'IA. Les risques spécifiques à l'IA incluent la biais algorithmique, le manque de transparence dans les processus décisionnels, les vulnérabilités cybernétiques et les dépendances complexes entre systèmes et données. Le FS AI RMF est présenté comme une extension du cadre NIST, offrant des contrôles spécifiques au secteur et des directives d'application pratique pour promouvoir des pratiques d'IA responsables et soutenir l'innovation.

Le gouvernement américain obtient un accès pré-déploiement aux modèles IA de cinq grands laboratoires à des fins de sécurité nationale

Le Département américain du Commerce vient d'élargir son programme d'accès anticipé aux modèles d'intelligence artificielle développés par les principaux laboratoires du secteur. Après Anthropic et OpenAI, trois nouvelles entreprises ont rejoint le dispositif : Google DeepMind, Microsoft et xAI, la startup d'Elon Musk. Ces acteurs ont signé des accords avec le Center for AI Standards and Innovation (CASI), une entité rattachée au National Institute of Standards and Technology. Concrètement, ils fournissent au gouvernement des versions de leurs modèles dont les garde-fous de sécurité ont été partiellement désactivés, pour permettre des évaluations approfondies dans des environnements classifiés. Cet accès privilégié permet aux agences fédérales d'examiner les capacités réelles de ces systèmes avant leur mise sur le marché, y compris leurs potentiels d'utilisation malveillante. En supprimant les filtres habituels, les testeurs gouvernementaux peuvent sonder les limites des modèles d'une façon que les versions publiques ne permettent pas : identifier des failles exploitables, simuler des scénarios de cyberattaque, ou évaluer les risques liés à la divulgation d'informations sensibles. C'est une rupture significative dans la manière dont l'État supervise ces technologies. Cette expansion s'inscrit dans un contexte de concurrence technologique croissante avec la Chine et de risques cybersécurité liés à l'IA en forte hausse. Washington cherche à établir des standards nationaux solides avant que ces systèmes ne se diffusent à grande échelle. Le fait que cinq des principaux laboratoires mondiaux participent désormais à ce programme signale une convergence inédite entre industrie privée et sécurité nationale, qui pourrait préfigurer un modèle de gouvernance applicable bien au-delà des frontières américaines.

💬 C'est le genre d'accord qu'on imaginait se faire dans l'ombre depuis des années, et là c'est officialisé. Cinq labos fournissent des versions sans filtres pour que le gouvernement cherche les failles, ce qui est probablement plus rassurant que l'alternative (tout le monde faisant semblant que ça n'existe pas). Ce qui m'intéresse maintenant, c'est de voir si Bruxelles va copier le modèle ou s'inventer une usine à gaz de plus.