Le Conseil national de sécurité allemand approuve un Institut de sécurité pour l'IA inspiré de l'AISI britannique

Le gouvernement américain obtient un accès pré-déploiement aux modèles IA de cinq grands laboratoires à des fins de sécurité nationale

Le Département américain du Commerce vient d'élargir son programme d'accès anticipé aux modèles d'intelligence artificielle développés par les principaux laboratoires du secteur. Après Anthropic et OpenAI, trois nouvelles entreprises ont rejoint le dispositif : Google DeepMind, Microsoft et xAI, la startup d'Elon Musk. Ces acteurs ont signé des accords avec le Center for AI Standards and Innovation (CASI), une entité rattachée au National Institute of Standards and Technology. Concrètement, ils fournissent au gouvernement des versions de leurs modèles dont les garde-fous de sécurité ont été partiellement désactivés, pour permettre des évaluations approfondies dans des environnements classifiés. Cet accès privilégié permet aux agences fédérales d'examiner les capacités réelles de ces systèmes avant leur mise sur le marché, y compris leurs potentiels d'utilisation malveillante. En supprimant les filtres habituels, les testeurs gouvernementaux peuvent sonder les limites des modèles d'une façon que les versions publiques ne permettent pas : identifier des failles exploitables, simuler des scénarios de cyberattaque, ou évaluer les risques liés à la divulgation d'informations sensibles. C'est une rupture significative dans la manière dont l'État supervise ces technologies. Cette expansion s'inscrit dans un contexte de concurrence technologique croissante avec la Chine et de risques cybersécurité liés à l'IA en forte hausse. Washington cherche à établir des standards nationaux solides avant que ces systèmes ne se diffusent à grande échelle. Le fait que cinq des principaux laboratoires mondiaux participent désormais à ce programme signale une convergence inédite entre industrie privée et sécurité nationale, qui pourrait préfigurer un modèle de gouvernance applicable bien au-delà des frontières américaines.

💬 C'est le genre d'accord qu'on imaginait se faire dans l'ombre depuis des années, et là c'est officialisé. Cinq labos fournissent des versions sans filtres pour que le gouvernement cherche les failles, ce qui est probablement plus rassurant que l'alternative (tout le monde faisant semblant que ça n'existe pas). Ce qui m'intéresse maintenant, c'est de voir si Bruxelles va copier le modèle ou s'inventer une usine à gaz de plus.

Bernie Sanders propose un projet de loi sur la sécurité de l'IA pour bloquer la construction de centres de données

Bernie Sanders a déposé mardi un projet de loi au Sénat américain visant à imposer un moratoire sur la construction de nouveaux centres de données d'IA. L'objectif déclaré est de donner au Congrès le temps de « s'assurer que l'IA est sûre » avant que l'infrastructure ne se développe davantage. Alexandria Ocasio-Cortez doit introduire un texte similaire à la Chambre des représentants dans les prochaines semaines. Cette initiative marque une escalade notable dans le débat législatif américain sur la sécurité de l'IA. Un gel des centres de données freinerait directement la capacité des grandes entreprises tech à entraîner et déployer de nouveaux modèles, avec des conséquences potentiellement majeures sur la course mondiale à l'IA. Ce projet s'inscrit dans un contexte de préoccupations croissantes sur les risques liés à l'IA, alors que les investissements en infrastructures atteignent des centaines de milliards de dollars aux États-Unis.

Fonds souverain britannique pour l'IA consolide sa structure cybernétique

Le Royaume-Uni lance officiellement le 16 avril son fonds souverain pour l'IA, doté de 500 millions de livres sterling, avec pour objectif de développer une infrastructure informatique nationale indépendante des hyperscalers étrangers (AWS, Google Cloud, Azure). Piloté par James Wise de Balderton Capital, le fonds s'appuie sur des supercalculateurs domestiques comme Isambard-AI à Bristol et Dawn à Cambridge, et a déjà investi 8 millions de livres dans le consortium OpenBind, qui cartographie les interactions moléculaires à une échelle 20 fois supérieure aux bases de données existantes. L'initiative vise à protéger la propriété intellectuelle locale et à réduire les coûts de R&D — jusqu'à 40 % dans le secteur pharmaceutique — tout en capitalisant sur un marché tech national estimé à 1 000 milliards de livres et plus de 5 800 entreprises d'IA.

Ce qui pourrait mal tourner avec les tests de sécurité de l'IA de Trump, selon des experts

L'administration Trump a conclu des accords cette semaine avec Google DeepMind, Microsoft et xAI pour soumettre leurs modèles d'IA de pointe à des contrôles de sécurité gouvernementaux, avant et après leur mise sur le marché. Ce revirement survient après que Donald Trump avait ouvertement balayé les politiques héritées de l'ère Biden, qualifiant les vérifications volontaires de surréglementation freinant l'innovation. Il avait même rebaptisé l'AI Safety Institute en Centre pour les Standards et l'Innovation de l'IA (CAISI), supprimant délibérément le mot "sécurité" dans un geste symbolique adressé à son prédécesseur. Selon Kevin Hassett, directeur du Conseil économique national de la Maison Blanche, Trump envisagerait désormais de signer un décret présidentiel rendant ces tests obligatoires avant tout déploiement de systèmes d'IA avancés. Ce changement de cap brutal illustre les tensions croissantes autour des modèles les plus puissants. Il intervient directement après qu'Anthropic a annoncé suspendre la sortie de son dernier modèle, Claude Mythos, estimant que ses capacités avancées en cybersécurité représentaient un risque trop élevé d'exploitation par des acteurs malveillants. Cette décision a visiblement ébranlé la Maison Blanche, qui semblait jusqu'ici peu préoccupée par la question. L'engagement de trois géants technologiques dans un dispositif de vérification officiel marque un tournant potentiellement structurant pour la gouvernance de l'IA aux États-Unis, à un moment où les modèles frontier franchissent de nouveaux seuils de capacité. Ce volte-face s'inscrit dans une tension plus large au sein de l'administration Trump entre l'impératif de compétitivité technologique face à la Chine et la gestion des risques concrets posés par des systèmes toujours plus autonomes. Depuis son retour à la Maison Blanche, Trump avait adopté une posture délibérément permissive sur la régulation de l'IA, cherchant à attirer investissements et talents. Mais la décision d'Anthropic de bloquer la sortie de Claude Mythos a rendu intenable l'absence totale de cadre fédéral. Si un décret est finalement signé, il pourrait redéfinir le rôle du CAISI et établir un précédent sur la manière dont Washington entend superviser les technologies les plus sensibles de la prochaine décennie.

💬 Ce qui a mis Trump en mouvement, c'est Anthropic qui a bloqué son propre modèle, pas une campagne de lobbying ou un rapport du Congrès. Quand les labos eux-mêmes freinent des deux pieds parce que leurs outils font trop peur, l'absence de cadre fédéral devient indéfendable, et même Washington le voit. Reste à voir si ces tests ont des dents ou si c'est du tampon de complaisance.