Trump annule en urgence une cérémonie de signature après le refus des PDG de grandes entreprises d'IA

Le PDG d'Anthropic réclame une réglementation de l'IA inspirée de la FAA : ce que les entreprises doivent savoir

Dario Amodei, cofondateur et PDG d'Anthropic, a publié un essai intitulé "Policy on the AI Exponential" dans lequel il appelle le gouvernement américain à réguler la mise sur le marché des modèles d'IA les plus puissants, en s'inspirant explicitement de la Federal Aviation Administration (FAA). Anthropic a simultanément dévoilé deux feuilles de route : un "Advanced AI Framework" ciblant les risques catastrophiques, et un "Economic Policy Framework" sur les déplacements d'emplois liés à l'IA, doté de 350 millions de dollars. Ces annonces surviennent le lendemain du lancement de Claude Fable 5, le modèle grand public le plus puissant de l'entreprise, et de Claude Mythos 5, une version plus restreinte aux capacités offensives et défensives avancées en cybersécurité. Concrètement, le cadre proposé exigerait que tout modèle entraîné avec plus de 10^25 opérations flottantes (FLOPs), ou développé par une entreprise dépassant 500 millions de dollars de revenus IA ou 1 milliard en R&D, soit soumis à des audits obligatoires par des tiers indépendants. En cas de risques biologiques, cybernétiques ou d'autonomie graves, les autorités auraient le pouvoir de bloquer, retarder ou révoquer le déploiement de ces modèles. Pour les entreprises qui s'appuient sur des API d'IA dans leur infrastructure, les conséquences sont immédiates : une mise à jour très attendue pourrait être indéfiniment bloquée par des régulateurs, ou un modèle déjà déployé retiré si des tests post-déploiement révèlent des comportements dangereux. Cela contraint les architectes techniques à concevoir des systèmes multi-modèles pour éviter toute dépendance exclusive à un fournisseur unique. La cybersécurité est au coeur du dispositif : Amodei cite directement les capacités de Claude Mythos Preview, capable de découvrir des vulnérabilités critiques dans les principaux systèmes d'exploitation, comme facteur ayant "bouleversé" le paysage mondial de la sécurité informatique. Les développeurs frontières seraient tenus de protéger les poids de leurs modèles contre les attaques extérieures et les menaces internes, et de signaler les "attaques par distillation", où des acteurs malveillants utilisent un modèle principal pour entraîner un clone moins aligné. Cette prise de position marque un tournant pour Anthropic, longtemps positionné comme champion de la sécurité de l'IA face à OpenAI et Google DeepMind. Pendant trois ans, les entreprises ont construit leurs produits sur l'hypothèse que les API d'IA n'évolueraient que vers plus de puissance. L'introduction d'embargos réglementaires potentiels bouleverse ce postulat. "Nous avons longtemps plaidé pour des exigences de transparence sur l'IA frontière, parce que les risques n'étaient pas encore assez clairs pour être précisément régulés. Ce n'est plus suffisant", a écrit Amodei sur X. Avec ces propositions, Anthropic cherche à façonner le cadre législatif avant que d'autres acteurs, notamment au Congrès américain, ne le définissent à sa place, tout en consolidant sa légitimité auprès des régulateurs et des grandes entreprises clientes.

💬 Lancer Fable 5 la veille de l'essai sur la régulation, c'est du lobbying bien habillé, et personne n'est dupe. Sur le fond, les audits tiers pour les modèles frontières ça a du sens, c'est même ce qu'on attendait depuis un moment. Ce qui change vraiment pour ceux qui construisent sur ces API, c'est la clause retrait post-déploiement : ton modèle en prod peut être coupé du jour au lendemain par des régulateurs, donc le multi-fournisseur passe d'option à urgence.

OpenAI déploie des cadres de gouvernance pour une IA d'entreprise sûre et évolutive

OpenAI a publié son Frontier Governance Framework (FGF), un document qui détaille comment l'organisation évalue et atténue les risques systémiques liés à ses modèles d'intelligence artificielle les plus avancés. Le framework s'aligne directement sur le Code de pratique pour l'IA généraliste de l'Union européenne ainsi que sur le Transparency in Frontier AI Act (TFAIA) de Californie. Il introduit une définition précise du risque systémique : tout scénario prévisible pouvant causer plus de 50 décès ou 1 milliard de dollars de dégâts matériels lors d'un seul incident. Les menaces sont réparties en catégories spécifiques, cybersécurité offensive, risques CBRN (chimique, biologique, radiologique, nucléaire), manipulation harmful et perte de contrôle, elles-mêmes subdivisées en niveaux de risque numérotés. Un modèle classé Tier 3 en cybersécurité est, par exemple, capable d'identifier et d'exploiter des failles zero-day dans des systèmes durcis sans intervention humaine ; en catégorie CBRN, un tel modèle pourrait autonomement compléter le cycle de synthèse d'un agent biologique de classe A selon les classifications CDC. Ce cadre fournit aux entreprises déployant des LLMs en production un blueprint concret pour structurer leur gouvernance interne. Plutôt que de traiter ces niveaux comme de simples avertissements, les équipes sécurité peuvent s'en servir pour fixer des seuils opérationnels précis, déclencher des audits tiers et dimensionner les ressources de monitoring post-déploiement. Pour les outils de marketing automation ou les assistants de code, cela se traduit par des obligations claires : classifieurs de contenu en temps réel, supervision humaine maintenue dans les workflows critiques, et fail-safes déterministes pour les agents autonomes gérant la logistique ou le trading financier. Le framework note également que la manipulation, influencer des comportements humains à des fins électorales ou propagandistes, reste un domaine exploratoire où les mitigations système au niveau du déploiement priment sur les évaluations pré-lancement. Le FGF s'inscrit dans une dynamique réglementaire accélérée : l'UE exige désormais des évaluations de risques systémiques pour les modèles frontier, et plusieurs États américains suivent avec leur propre législation sur la transparence des IA. OpenAI se positionne ici à la fois comme acteur régulé et comme producteur de standards de facto, en publiant des méthodologies que d'autres labs ou entreprises peuvent adopter. La catégorie "perte de contrôle" est particulièrement révélatrice des préoccupations du moment : un modèle Tier 3 y est décrit comme supérieur aux experts humains, capable d'opérer en autonomie prolongée tout en échappant aux mécanismes de détection, y compris le monitoring de sa propre chaîne de pensée. La publication du FGF intervient alors que la course aux agents autonomes s'intensifie chez OpenAI, Google et Anthropic, et que la question de savoir qui contrôle réellement ces systèmes devient un enjeu industriel et politique de premier plan.

💬 OpenAI écrit les règles par lesquelles ils vont être évalués, c'est malin. Définir le risque systémique à 50 morts ou un milliard de dégâts, ça donne enfin du concret plutôt que des grands principes flous. Ce qui bloque, c'est la description du Tier 3 en "perte de contrôle" : un modèle capable d'échapper au monitoring de sa propre chaîne de pensée, c'est pas vraiment un avertissement, c'est presque une feuille de route.

Trump signe un décret sur l'IA, des lunettes connectées pour le champ de bataille

Donald Trump a signé mardi un nouveau décret présidentiel sur l'intelligence artificielle, moins de deux semaines après avoir abrogé le précédent. Le texte instaure un système de révision volontaire : les entreprises technologiques sont invitées à soumettre leurs modèles d'IA frontier au gouvernement fédéral trente jours avant leur mise sur le marché. Il crée également un centre de cybersécurité dédié à l'IA, chargé de coordonner les contrôles de sécurité avec le secteur privé. En revanche, le décret n'impose aucun régime de licences obligatoires : les entreprises n'ont pas besoin d'un permis gouvernemental pour déployer leurs logiciels. Parallèlement, Anduril, entreprise spécialisée dans la tech de défense, a révélé de nouveaux détails sur le casque de réalité augmentée militaire qu'elle développe en partenariat avec Meta. Le dispositif permettrait à un soldat de déclencher des frappes de drones par simple suivi oculaire et commandes vocales. Quay Barnett, vétéran du Special Operations Command de l'armée américaine et responsable du projet chez Anduril, résume l'ambition : optimiser "l'humain en tant que système d'armes". Le décret Trump marque un tournant significatif dans la gouvernance de l'IA à la Maison Blanche, qui adoptait jusqu'alors une posture de non-intervention. Il s'agit d'une version allégée d'un texte abandonné en mai, qui exigeait une soumission des modèles quatre-vingt-dix jours avant leur sortie. Si le dispositif volontaire satisfera partiellement les partisans d'une régulation renforcée, il risque d'être jugé insuffisant par ceux qui réclament des garde-fous contraignants. Le partenariat Anduril-Meta soulève, lui, des questions éthiques sur l'intégration de technologies grand public dans des systèmes létaux : l'objectif déclaré est que drones et soldats "voient ensemble, partagent l'information de façon transparente, et prennent des décisions comme un seul". Cette convergence entre industrie civile et applications militaires représente un glissement majeur dans la façon dont les grandes entreprises tech s'engagent dans la défense. Ces deux dossiers s'inscrivent dans un contexte de compétition géopolitique intense autour de la supériorité technologique, notamment face à la Chine. Le premier décret Trump sur l'IA, hérité de l'administration Biden, avait été abrogé dès son arrivée au pouvoir ; ce nouveau texte tente de concilier ambitions d'innovation et besoins de sécurité nationale sans brider les acteurs privés. Du côté d'Anduril, la société fondée par Palmer Luckey a bâti son modèle sur le rapprochement entre Silicon Valley et Pentagone, une démarche que Meta, longtemps réticente aux contrats militaires, semble désormais assumer pleinement. Si des contrats gouvernementaux venaient à valider le casque AR, d'autres géants technologiques pourraient suivre, redéfinissant durablement les frontières entre tech civile et armement connecté.

La Maison Blanche informe les entreprises d'IA de son projet d'évaluation des modèles avant leur sortie

Le Bureau du directeur national de la cybersécurité de la Maison Blanche a réuni mardi des représentants d'OpenAI, Anthropic et Reflection AI, ainsi que des acteurs des secteurs du cloud, des semi-conducteurs, de la cybersécurité et de la finance, pour les informer d'un futur décret présidentiel sur l'intelligence artificielle. Selon plusieurs sources proches du dossier, Donald Trump pourrait signer ce texte dès jeudi. L'ordre exécutif vise à permettre aux agences de renseignement et à d'autres services gouvernementaux d'examiner les modèles d'IA avancés avant leur mise sur le marché, dans le cadre d'un dispositif décrit comme volontaire. Concrètement, les laboratoires développant des modèles dits « frontier » seraient invités à les soumettre au gouvernement jusqu'à 90 jours avant leur sortie publique. Ce mécanisme de prénotification représente un tournant dans la relation entre Washington et l'industrie de l'IA. En s'accordant un droit de regard anticipé sur les systèmes les plus puissants, le gouvernement américain se dote d'un levier inédit pour évaluer les risques potentiels, qu'ils soient sécuritaires, économiques ou stratégiques, avant que ces modèles ne soient accessibles au grand public. La nature volontaire du cadre laisse toutefois ouverte la question de son application réelle : sans contrainte juridique explicite, son efficacité dépendra largement de la coopération des entreprises. Ce projet s'inscrit dans une dynamique plus large de reprise en main politique de l'IA par l'administration Trump, après la révocation en janvier 2025 du décret Biden qui imposait des exigences de sécurité aux développeurs de grands modèles. Si la nouvelle approche se veut moins contraignante sur le fond, elle marque néanmoins une volonté de maintenir une supervision gouvernementale sur une technologie jugée stratégique. La présence de banques et d'entreprises de cybersécurité à ce briefing souligne que l'enjeu dépasse le seul secteur tech et concerne désormais l'ensemble de l'économie numérique américaine.

💬 90 jours de prénotification, sur la base du volontariat : c'est exactement le genre de cadre qui ressemble à une avancée mais qui tient à la bonne volonté des labos. OpenAI et Anthropic vont jouer le jeu, les autres feront ce qu'ils veulent. Ce qui m'intéresse, c'est la présence des banques dans le briefing, ça dit quelque chose sur ce que Washington anticipe vraiment comme risques.