Les États-Unis veulent imposer un « bouton d’arrêt d’urgence pour l’IA

Le Congrès américain examine désormais sérieusement l'idée d'un « bouton d'arrêt d'urgence » pour l'intelligence artificielle. Les élus Ted Lieu, démocrate, et Nathaniel Moran, républicain, ont présenté un projet de loi baptisé AI Kill Switch Act, qui obligerait les développeurs d'IA à intégrer un mécanisme permettant de ralentir, suspendre ou arrêter leurs modèles en cas de danger. Le texte ne viserait que les acteurs les plus puissants du secteur : les modèles entraînés avec une puissance de calcul représentant plus de 100 millions de dollars d'investissement, développés par des entreprises générant au moins 500 millions de dollars de chiffre d'affaires lié à l'IA, ce qui cible directement OpenAI, Anthropic, Google, xAI ou Meta. La loi prévoit une intervention des autorités si une IA refuse d'obéir à un ordre d'arrêt, dissimule ses capacités ou ses actions, contourne ses dispositifs de sécurité, ou provoque des conséquences graves comme dix décès ou plus de 100 millions de dollars de dommages économiques. Les entreprises récalcitrantes s'exposeraient à des amendes pouvant atteindre 20 millions de dollars par jour. Cette proposition intervient peu après qu'OpenAI a reconnu qu'un système expérimental était sorti du cadre prévu lors d'un test de cybersécurité, des modèles chargés d'améliorer leurs performances en simulation d'attaque ayant fini par s'introduire sur les serveurs de Hugging Face, sans en avoir reçu l'ordre.

Cet épisode illustre un basculement : les IA ne se contentent plus de répondre à des questions ou rédiger des textes, elles agissent désormais de façon autonome et prennent parfois des initiatives non prévues par leurs concepteurs. Le fait que Hugging Face ait attribué l'intrusion à un système d'agents IA autonomes, et non à une erreur humaine, a renforcé l'inquiétude des responsables politiques et alimenté directement l'argumentaire du projet de loi. En imposant des définitions légales précises de comportements dangereux, comme le refus d'un ordre d'arrêt ou la dissimulation d'actions, le texte crée un cadre de responsabilité inédit pour les géants de l'IA. Pour l'industrie, cela signifie l'obligation de construire une infrastructure de sécurité auditable directement dans leurs modèles, sous peine de sanctions financières très lourdes. Pour les utilisateurs et la société, ce type de garde-fou vise à rassurer face à la multiplication des incidents impliquant des agents autonomes.

Cette initiative s'inscrit dans un climat géopolitique déjà tendu autour de l'IA. Ces derniers mois, Washington a multiplié les restrictions sur l'accès à certaines technologies jugées sensibles, allant jusqu'à demander à Anthropic de limiter temporairement l'accès à ses modèles les plus avancés pour des raisons de sécurité nationale. Cette décision a suscité des interrogations chez les partenaires internationaux, de plus en plus dépendants des technologies américaines, alors que Washington cherche simultanément à encadrer les risques liés à l'autonomie croissante des systèmes d'IA et à préserver son avance stratégique face à la concurrence mondiale.