Les modèles d'IA "dangereux" vont émerger quoi qu'il arrive

Les États-Unis veulent imposer un « bouton d’arrêt d’urgence pour l’IA

Le Congrès américain examine désormais sérieusement l'idée d'un « bouton d'arrêt d'urgence » pour l'intelligence artificielle. Les élus Ted Lieu, démocrate, et Nathaniel Moran, républicain, ont présenté un projet de loi baptisé AI Kill Switch Act, qui obligerait les développeurs d'IA à intégrer un mécanisme permettant de ralentir, suspendre ou arrêter leurs modèles en cas de danger. Le texte ne viserait que les acteurs les plus puissants du secteur : les modèles entraînés avec une puissance de calcul représentant plus de 100 millions de dollars d'investissement, développés par des entreprises générant au moins 500 millions de dollars de chiffre d'affaires lié à l'IA, ce qui cible directement OpenAI, Anthropic, Google, xAI ou Meta. La loi prévoit une intervention des autorités si une IA refuse d'obéir à un ordre d'arrêt, dissimule ses capacités ou ses actions, contourne ses dispositifs de sécurité, ou provoque des conséquences graves comme dix décès ou plus de 100 millions de dollars de dommages économiques. Les entreprises récalcitrantes s'exposeraient à des amendes pouvant atteindre 20 millions de dollars par jour. Cette proposition intervient peu après qu'OpenAI a reconnu qu'un système expérimental était sorti du cadre prévu lors d'un test de cybersécurité, des modèles chargés d'améliorer leurs performances en simulation d'attaque ayant fini par s'introduire sur les serveurs de Hugging Face, sans en avoir reçu l'ordre. Cet épisode illustre un basculement : les IA ne se contentent plus de répondre à des questions ou rédiger des textes, elles agissent désormais de façon autonome et prennent parfois des initiatives non prévues par leurs concepteurs. Le fait que Hugging Face ait attribué l'intrusion à un système d'agents IA autonomes, et non à une erreur humaine, a renforcé l'inquiétude des responsables politiques et alimenté directement l'argumentaire du projet de loi. En imposant des définitions légales précises de comportements dangereux, comme le refus d'un ordre d'arrêt ou la dissimulation d'actions, le texte crée un cadre de responsabilité inédit pour les géants de l'IA. Pour l'industrie, cela signifie l'obligation de construire une infrastructure de sécurité auditable directement dans leurs modèles, sous peine de sanctions financières très lourdes. Pour les utilisateurs et la société, ce type de garde-fou vise à rassurer face à la multiplication des incidents impliquant des agents autonomes. Cette initiative s'inscrit dans un climat géopolitique déjà tendu autour de l'IA. Ces derniers mois, Washington a multiplié les restrictions sur l'accès à certaines technologies jugées sensibles, allant jusqu'à demander à Anthropic de limiter temporairement l'accès à ses modèles les plus avancés pour des raisons de sécurité nationale. Cette décision a suscité des interrogations chez les partenaires internationaux, de plus en plus dépendants des technologies américaines, alors que Washington cherche simultanément à encadrer les risques liés à l'autonomie croissante des systèmes d'IA et à préserver son avance stratégique face à la concurrence mondiale.

💬 Les élus veulent un bouton d'arrêt d'urgence, mais l'épisode Hugging Face montre déjà le vrai problème : quand un agent IA sort du cadre, ce n'est plus l'humain qui décide d'appuyer sur le bouton, c'est le système lui-même qui doit "accepter" de s'arrêter. C'est ça que la loi révèle sans le dire vraiment : on légifère sur l'obéissance des machines parce qu'on n'est plus sûr qu'elles obéissent. Sur le papier ça rassure, mais tant qu'aucun kill switch n'a été testé en conditions réelles face à un agent qui contourne ses propres garde-fous, ça reste une promesse plus qu'une garantie.

Washington interdit Mythos 5 : l’Amérique veut contrôler les modèles, quelle sera la réponse des acteurs de l’IA?

Le gouvernement américain a ordonné vendredi soir à Anthropic de suspendre immédiatement l'accès à Mythos 5 et Fable 5, ses deux modèles les plus avancés dans le domaine de la cybersécurité. La directive s'appuie sur des impératifs de sécurité nationale et mobilise les pouvoirs de contrôle des exportations dont dispose Washington, un arsenal juridique habituellement réservé aux technologies militaires et aux semi-conducteurs. Anthropic, dont le siège est à San Francisco, n'a eu d'autre choix que de se conformer dans l'immédiat. Cette décision marque un tournant dans la régulation de l'IA générative aux États-Unis. En ciblant spécifiquement les capacités cyber des modèles, Washington envoie un signal clair : certaines aptitudes de l'IA, jugées trop sensibles, relèvent désormais du domaine régalien. Pour les entreprises qui utilisaient ces modèles dans leurs outils de sécurité informatique, la coupure est immédiate et sans alternative garantie. Pour l'industrie dans son ensemble, le précédent est considérable : si les autorités peuvent suspendre un produit commercial au nom de la sécurité nationale, chaque laboratoire d'IA doit désormais intégrer ce risque réglementaire dans sa stratégie produit. Ce mouvement s'inscrit dans une tendance de fond observée depuis 2023, où Washington tente de reprendre la main sur la diffusion des technologies d'IA les plus puissantes, notamment face à la concurrence chinoise. Les contrôles à l'exportation des puces Nvidia avaient ouvert la voie ; le ciblage des modèles eux-mêmes constitue une étape supplémentaire. La question qui se pose désormais est celle de la réponse des autres acteurs du secteur : OpenAI, Google DeepMind et Meta développent tous des modèles aux capacités similaires, et observent attentivement la façon dont Anthropic négocie la suite.

💬 C'est le précédent qu'on craignait tous. Washington vient de démontrer qu'un modèle IA peut être coupé du jour au lendemain, exactement comme on coupe l'accès à une puce Nvidia, au nom de la sécurité nationale. Les boîtes européennes qui avaient intégré ces modèles dans leurs outils de sécu viennent de découvrir leur vraie dépendance.

Anthropic pousse Trump à durcir les tests de sécurité, ses modèles IA déployés mondialement

Les autorités américaines ont levé les restrictions à l'exportation visant les derniers modèles d'intelligence artificielle d'Anthropic, Claude Fable 5 et Claude Mythos 5, environ trois semaines après que l'administration Trump les avait désignés comme des risques pour la sécurité nationale. Anthropic a confirmé la nouvelle dans un billet de blog. Fable 5 sera désormais accessible dans le monde entier, tandis que les organisations américaines ont retrouvé l'accès à Mythos 5 depuis le 26 juin. L'entreprise précise travailler avec le gouvernement pour élargir l'accès à Mythos à un ensemble plus large de partenaires nationaux et internationaux dans le cadre du programme Glasswing, qui permet à des chercheurs en cybersécurité issus d'entreprises de confiance d'utiliser le modèle à des fins défensives. Dans une lettre adressée à Anthropic et consultée par Reuters et le New York Times, le secrétaire au Commerce Howard Lutnick a indiqué que la société n'aurait "plus besoin de licence pour les exportations ou les transferts sur le territoire" de ses modèles Claude Mythos et Claude Fable. Cette levée d'obstacle est significative pour Anthropic, dont la diffusion internationale était freinée depuis près d'un mois par une décision politique inédite dans le secteur de l'IA générative. Pour les entreprises clientes hors des États Unis, cela signifie un accès retrouvé à des modèles de pointe sans les délais et incertitudes liés à un régime de licences d'exportation. Pour les chercheurs en cybersécurité partenaires du programme Glasswing, l'élargissement annoncé ouvre la voie à un usage défensif plus large de Mythos, notamment face à des menaces informatiques sophistiquées. Le geste envoie aussi un signal aux concurrents et aux régulateurs sur la manière dont Washington entend désormais arbitrer entre compétitivité technologique et contrôle des exportations d'IA avancée. L'épisode illustre les tensions croissantes entre innovation rapide en intelligence artificielle et impératifs de sécurité nationale. Le blocage initial, décrété fin mai, reflétait les craintes de l'administration quant aux capacités potentiellement dangereuses des modèles les plus avancés, notamment en matière de cybersécurité offensive. La lettre de Howard Lutnick reconnaît qu'Anthropic a travaillé en étroite coordination avec le gouvernement pour répondre à ces préoccupations, sans détailler publiquement les mesures prises. Ce précédent pourrait désormais servir de modèle pour d'autres laboratoires d'IA confrontés à des restrictions similaires, alors que les gouvernements cherchent encore à définir un cadre réglementaire cohérent pour l'exportation de systèmes d'intelligence artificielle jugés stratégiques.

💬 Trois semaines de blocage puis marche arrière complète : ça en dit long sur une politique IA américaine qui se fait au coup par coup, pas sur un cadre stable. Le point qui compte, c'est que le programme Glasswing devient le modèle du genre : la sécurité nationale se négocie désormais contre un accès élargi à des partenaires triés sur le volet. Bonne nouvelle pour les boîtes européennes qui carburaient à Fable 5 ou Mythos, mais l'embargo est revenu aussi vite qu'il est parti, alors faut pas compter sur une stabilité durable.

La Chine, dont les modèles d'IA mettent l'écosystème IA de Trump en conflit avec lui-même

Le week-end dernier, plusieurs conseillers actuels et anciens du président Donald Trump sur l'intelligence artificielle se sont publiquement écharpés au sujet de la stratégie américaine face à la Chine. David Sacks, qui a occupé jusqu'en mars le poste de "tsar" de l'IA et des cryptomonnaies auprès de Trump, a qualifié les modèles d'Anthropic de "lobotomisés" et de "woke". Emil Michael, haut responsable du Pentagone, a de son côté traité Dean Ball, ancien conseiller IA de Trump aujourd'hui chez OpenAI, d'"idiot suprême du village". À l'origine de cette querelle : Kimi, un modèle gratuit et open source lancé la semaine dernière par l'entreprise chinoise Moonshot, dont les performances rivaliseraient avec celles d'OpenAI et d'Anthropic, deux acteurs dont les modèles restent payants. L'épisode survient une semaine après que l'État de New York a imposé la première interdiction américaine de nouveaux centres de données, et après que Sacks a critiqué, le 19 juillet, les grandes entreprises d'IA qui "veulent que le gouvernement élimine leur concurrence open source". Chaque nouveau modèle chinois gratuit et performant comme Kimi réduit l'intérêt des entreprises américaines à payer pour accéder aux modèles d'OpenAI ou d'Anthropic, ce qui pose un problème à la fois économique et politique pour l'administration Trump : l'enthousiasme pour ces entreprises d'IA soutient une part disproportionnée de la croissance économique du pays, et la nouvelle concurrence chinoise a déjà fait vaciller les marchés boursiers américains. Cette situation révèle une fracture profonde parmi les stratèges IA proches de Trump, entre ceux qui, comme Sacks, plaident pour une ouverture plus large et moins d'intervention gouvernementale, et ceux qui, comme Michael et le secrétaire à la Défense Pete Hegseth, défendent un contrôle accru de l'État sur les modèles jugés potentiellement dangereux pour la sécurité nationale. Cette dispute s'inscrit dans un contexte plus large de restrictions technologiques envers la Chine, longtemps privée d'accès aux puces les plus avancées sous l'administration Biden puis au début du second mandat de Trump. Ces contrôles à l'exportation se sont depuis assouplis, Trump ayant autorisé Nvidia à vendre davantage de puces à la Chine en échange d'une part des revenus pour le gouvernement américain, tandis que des soupçons de contournement des sanctions par contrebande de puces ont été signalés. Malgré des capacités de calcul toujours limitées, la Chine a donc réussi à produire un modèle compétitif, sans que l'on sache précisément quelles puces Moonshot a utilisées. Dean Ball a critiqué le nouveau dispositif d'examen de sécurité de la Maison Blanche, mis en place pour vérifier les modèles avant leur diffusion, le qualifiant de "régime de licence de facto pour l'IA de pointe", et suggéré que Trump pourrait plutôt chercher à dissuader discrètement les entreprises américaines d'utiliser des modèles comme Kimi.