Newsom pousse pour un bouton d'arrêt d'urgence de l'IA
Le gouverneur de Californie Gavin Newsom a signé vendredi un décret exécutif visant à positionner son État à l'avant-garde de la régulation de l'intelligence artificielle, avec notamment la possibilité d'imposer un "kill switch" (interrupteur d'arrêt d'urgence) sur les modèles d'IA de pointe. Le texte charge un groupe d'experts, qui doit être constitué par l'administration, de formuler sous deux mois des recommandations pour renforcer les mesures de sécurité encadrant l'IA dans la législation de l'État. Parmi les pistes à étudier figurent l'obligation pour les entreprises d'IA d'accueillir sur site des équipes de vérification indépendantes chargées d'audits réguliers, la soumission de leurs rapports de transparence et évaluations de risques à des standards d'audit externes, ainsi que la création d'un mécanisme permettant de couper à distance le fonctionnement d'un modèle jugé dangereux.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Cette initiative confirme la volonté de la Californie de s'imposer comme référence réglementaire en l'absence d'un cadre fédéral américain sur l'IA, un rôle qu'elle joue déjà dans d'autres domaines technologiques comme la protection des données ou l'automobile. Pour les grandes entreprises du secteur, dont plusieurs ont leur siège dans l'État, cela signifierait potentiellement de nouvelles obligations de transparence et de contrôle externe sur leurs modèles les plus puissants, avec un coût de conformité accru mais aussi un signal de confiance possible pour le public.
Ce décret s'inscrit dans une série d'efforts californiens pour encadrer l'IA, après des textes précédents sur la transparence des grands modèles et la sécurité des systèmes automatisés. Il intervient alors que les débats sur les risques des modèles frontières s'intensifient au niveau mondial, entre partisans d'une régulation stricte et acteurs de l'industrie redoutant un frein à l'innovation. Les recommandations du groupe d'experts, attendues d'ici mi-novembre, détermineront les prochaines étapes législatives envisagées par Newsom.
Cette régulation californienne n'a pas d'effet juridique direct en France ou dans l'UE, mais pourrait alimenter le débat européen sur l'encadrement des modèles d'IA frontières.
Un kill switch sur les modèles frontières, sur le papier c'est rassurant. En vrai, c'est surtout un aveu : personne ne sait encore garantir qu'un modèle reste sous contrôle une fois déployé, donc on prépare le bouton d'urgence plutôt que la solution. La Californie fait ce qu'elle fait déjà sur la donnée ou l'auto, imposer sa norme faute de cadre fédéral, et ça va coûter cher aux boîtes du secteur, sièges compris. Reste à voir si ce comité d'experts accouche de règles applicables ou d'un rapport de plus d'ici mi-novembre.