Le combat pour tenir les entreprises d'IA responsables de la mort d'enfants

La Maison Blanche informe les entreprises d'IA de son projet d'évaluation des modèles avant leur sortie

Le Bureau du directeur national de la cybersécurité de la Maison Blanche a réuni mardi des représentants d'OpenAI, Anthropic et Reflection AI, ainsi que des acteurs des secteurs du cloud, des semi-conducteurs, de la cybersécurité et de la finance, pour les informer d'un futur décret présidentiel sur l'intelligence artificielle. Selon plusieurs sources proches du dossier, Donald Trump pourrait signer ce texte dès jeudi. L'ordre exécutif vise à permettre aux agences de renseignement et à d'autres services gouvernementaux d'examiner les modèles d'IA avancés avant leur mise sur le marché, dans le cadre d'un dispositif décrit comme volontaire. Concrètement, les laboratoires développant des modèles dits « frontier » seraient invités à les soumettre au gouvernement jusqu'à 90 jours avant leur sortie publique. Ce mécanisme de prénotification représente un tournant dans la relation entre Washington et l'industrie de l'IA. En s'accordant un droit de regard anticipé sur les systèmes les plus puissants, le gouvernement américain se dote d'un levier inédit pour évaluer les risques potentiels, qu'ils soient sécuritaires, économiques ou stratégiques, avant que ces modèles ne soient accessibles au grand public. La nature volontaire du cadre laisse toutefois ouverte la question de son application réelle : sans contrainte juridique explicite, son efficacité dépendra largement de la coopération des entreprises. Ce projet s'inscrit dans une dynamique plus large de reprise en main politique de l'IA par l'administration Trump, après la révocation en janvier 2025 du décret Biden qui imposait des exigences de sécurité aux développeurs de grands modèles. Si la nouvelle approche se veut moins contraignante sur le fond, elle marque néanmoins une volonté de maintenir une supervision gouvernementale sur une technologie jugée stratégique. La présence de banques et d'entreprises de cybersécurité à ce briefing souligne que l'enjeu dépasse le seul secteur tech et concerne désormais l'ensemble de l'économie numérique américaine.

💬 90 jours de prénotification, sur la base du volontariat : c'est exactement le genre de cadre qui ressemble à une avancée mais qui tient à la bonne volonté des labos. OpenAI et Anthropic vont jouer le jeu, les autres feront ce qu'ils veulent. Ce qui m'intéresse, c'est la présence des banques dans le briefing, ça dit quelque chose sur ce que Washington anticipe vraiment comme risques.

Mistral : le PDG appelle à une taxe sur les entreprises d'IA en Europe

Le PDG de Mistral AI, Arthur Mensch, prend position en faveur d'une taxation des entreprises d'intelligence artificielle opérant sur le sol européen. Cette proposition s'inscrit dans une vision de souveraineté numérique européenne, visant à rééquilibrer les rapports de force entre les géants américains et asiatiques de l'IA et les acteurs locaux. L'idée centrale est de financer un écosystème IA européen indépendant grâce aux recettes fiscales générées par les grandes plateformes étrangères. Dans un secteur où les États-Unis et la Chine dominent largement les investissements et les modèles de référence, l'Europe risque de se retrouver dans une position de dépendance technologique structurelle si aucune mesure corrective n'est adoptée. Arthur Mensch défend ainsi une logique de redistribution : les entreprises qui profitent du marché européen, ses données, ses utilisateurs, ses infrastructures, contribueraient à financer la recherche et le développement locaux. Mistral AI, qui se positionne comme le champion européen des grands modèles de langage face à OpenAI, Google ou Anthropic, aurait naturellement intérêt à voir émerger un cadre réglementaire favorisant les acteurs du continent. Cette prise de position intervient dans un contexte où l'Union européenne cherche à définir sa stratégie IA à long terme, entre régulation stricte (avec l'AI Act) et volonté de ne pas brider l'innovation locale. La proposition de Mensch pourrait alimenter les débats à Bruxelles, même si sa mise en œuvre se heurterait à des résistances politiques et industrielles considérables de la part des grandes puissances technologiques concernées.

Le PDG d'Anthropic réclame une réglementation de l'IA inspirée de la FAA : ce que les entreprises doivent savoir

Dario Amodei, cofondateur et PDG d'Anthropic, a publié un essai intitulé "Policy on the AI Exponential" dans lequel il appelle le gouvernement américain à réguler la mise sur le marché des modèles d'IA les plus puissants, en s'inspirant explicitement de la Federal Aviation Administration (FAA). Anthropic a simultanément dévoilé deux feuilles de route : un "Advanced AI Framework" ciblant les risques catastrophiques, et un "Economic Policy Framework" sur les déplacements d'emplois liés à l'IA, doté de 350 millions de dollars. Ces annonces surviennent le lendemain du lancement de Claude Fable 5, le modèle grand public le plus puissant de l'entreprise, et de Claude Mythos 5, une version plus restreinte aux capacités offensives et défensives avancées en cybersécurité. Concrètement, le cadre proposé exigerait que tout modèle entraîné avec plus de 10^25 opérations flottantes (FLOPs), ou développé par une entreprise dépassant 500 millions de dollars de revenus IA ou 1 milliard en R&D, soit soumis à des audits obligatoires par des tiers indépendants. En cas de risques biologiques, cybernétiques ou d'autonomie graves, les autorités auraient le pouvoir de bloquer, retarder ou révoquer le déploiement de ces modèles. Pour les entreprises qui s'appuient sur des API d'IA dans leur infrastructure, les conséquences sont immédiates : une mise à jour très attendue pourrait être indéfiniment bloquée par des régulateurs, ou un modèle déjà déployé retiré si des tests post-déploiement révèlent des comportements dangereux. Cela contraint les architectes techniques à concevoir des systèmes multi-modèles pour éviter toute dépendance exclusive à un fournisseur unique. La cybersécurité est au coeur du dispositif : Amodei cite directement les capacités de Claude Mythos Preview, capable de découvrir des vulnérabilités critiques dans les principaux systèmes d'exploitation, comme facteur ayant "bouleversé" le paysage mondial de la sécurité informatique. Les développeurs frontières seraient tenus de protéger les poids de leurs modèles contre les attaques extérieures et les menaces internes, et de signaler les "attaques par distillation", où des acteurs malveillants utilisent un modèle principal pour entraîner un clone moins aligné. Cette prise de position marque un tournant pour Anthropic, longtemps positionné comme champion de la sécurité de l'IA face à OpenAI et Google DeepMind. Pendant trois ans, les entreprises ont construit leurs produits sur l'hypothèse que les API d'IA n'évolueraient que vers plus de puissance. L'introduction d'embargos réglementaires potentiels bouleverse ce postulat. "Nous avons longtemps plaidé pour des exigences de transparence sur l'IA frontière, parce que les risques n'étaient pas encore assez clairs pour être précisément régulés. Ce n'est plus suffisant", a écrit Amodei sur X. Avec ces propositions, Anthropic cherche à façonner le cadre législatif avant que d'autres acteurs, notamment au Congrès américain, ne le définissent à sa place, tout en consolidant sa légitimité auprès des régulateurs et des grandes entreprises clientes.

💬 Lancer Fable 5 la veille de l'essai sur la régulation, c'est du lobbying bien habillé, et personne n'est dupe. Sur le fond, les audits tiers pour les modèles frontières ça a du sens, c'est même ce qu'on attendait depuis un moment. Ce qui change vraiment pour ceux qui construisent sur ces API, c'est la clause retrait post-déploiement : ton modèle en prod peut être coupé du jour au lendemain par des régulateurs, donc le multi-fournisseur passe d'option à urgence.

Anthropic restreint l'accès à Claude Fable 5 et Mythos 5 sur ordre américain : guide pour les entreprises

Le gouvernement américain a ordonné dans la nuit du 12 au 13 juin 2026 à Anthropic de suspendre immédiatement l'accès à ses deux modèles phares, Claude Fable 5 et Claude Mythos 5, en invoquant des autorités de sécurité nationale non précisées. En réponse, Anthropic a coupé tout accès public à ces modèles à l'échelle mondiale, frappant indistinctement les clients entreprises sous contrat, les utilisateurs grand public et même les employés d'Anthropic en interne. Les sessions en cours se terminent désormais en erreur, et les nouvelles requêtes sont automatiquement reroutées vers des modèles plus anciens comme Claude Opus 4.8. La mesure intervient seulement trois jours après le lancement public de Fable 5 et Mythos 5. Dans un billet de blog, Anthropic présente ses excuses à ses clients et déclare : "Nous pensons qu'il s'agit d'un malentendu et travaillons à rétablir l'accès dans les meilleurs délais." La société conteste par ailleurs la base factuelle de l'ordre, indiquant que le gouvernement ne lui a fourni à ce stade qu'une "preuve verbale d'un jailbreak potentiel, étroit et non universel", consistant essentiellement à demander au modèle de lire un codebase et d'en corriger les failles. Cette décision constitue un signal d'alarme majeur pour l'ensemble du secteur. L'élément déclencheur présumé est un jailbreak spectaculaire publié le 10 juin sur X par le chercheur en sécurité connu sous le pseudonyme "Pliny the Liberator", qui affirme avoir contourné les garde-fous de Fable 5 pour en extraire des instructions fonctionnelles liées à des cyberattaques, à la fabrication d'explosifs et à des voies de synthèse chimique, notamment la méthode de réduction de Birch pour la méthamphétamine. La technique décrite est sophistiquée : une attaque multi-agents exploitant Unicode, des homoglyphes, le cyrillique et un découpage des requêtes nuisibles en fragments anodins, réassemblés ensuite par un modèle Opus préalablement compromis. Anthropic argue toutefois que ces capacités sont "largement disponibles" dans d'autres modèles publics, citant nommément GPT-5.5 d'OpenAI, et avertit que suspendre un modèle commercial pour un jailbreak non universel pourrait "stopper de facto tout nouveau déploiement de modèles frontier pour l'ensemble des acteurs du secteur." Cet épisode s'inscrit dans une tendance préoccupante pour les entreprises utilisatrices d'IA cloud. Plus tôt en 2026, le Pentagone avait déjà mis Anthropic sur liste noire, révélant la fragilité structurelle d'une dépendance à un fournisseur unique. Les organisations qui font reposer des processus critiques sur l'API Claude se trouvent aujourd'hui privées de leurs outils sans préavis ni recours immédiat. Même si Opus 4.8 reste disponible, l'incident illustre concrètement pourquoi la redondance entre fournisseurs d'IA n'est plus une option mais une nécessité opérationnelle. L'issue dépend désormais des discussions entre Anthropic et les autorités fédérales américaines, dont le calendrier et le résultat restent entièrement incertains.

💬 Trois jours après le lancement, coupé net. Le jailbreak de Pliny est sophistiqué (multi-agents, homoglyphes, découpage en cyrillique), mais ce qui m'inquiète c'est pas ça : c'est que tes contrats d'API ne valent rien face à un ordre exécutif américain. Si tu fais tourner des processus critiques sur Claude et uniquement Claude, cet incident vient de te donner la réponse à la question que tu évitais de poser.