Le gouverneur de Californie Newsom signe un décret exigeant un "kill switch" pour les modèles d'IA
Le gouverneur de Californie Gavin Newsom a signé un décret exécutif exigeant que les laboratoires d'intelligence artificielle mettent en place un mécanisme d'arrêt d'urgence, ou "kill switch", pour leurs modèles les plus avancés. Le texte prévoit également l'intervention d'auditeurs indépendants directement au sein des laboratoires d'IA, chargés de surveiller le développement et le déploiement de ces systèmes. Un panel d'experts dispose désormais de deux mois pour formuler des recommandations concrètes sur la mise en œuvre de ces mesures. Newsom a justifié cette initiative en soulignant qu'aucune loi fédérale n'oblige actuellement les entreprises d'IA à signaler les incidents dangereux liés à leurs modèles, laissant un vide réglementaire que la Californie entend combler à son échelle.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette décision marque une nouvelle étape dans la volonté des autorités américaines de reprendre la main sur la régulation de l'IA, à un moment où le développement de systèmes toujours plus puissants s'accélère sans cadre de sécurité contraignant au niveau fédéral. Un mécanisme de kill switch obligerait les entreprises à intégrer des capacités techniques permettant de désactiver rapidement un modèle jugé dangereux ou hors de contrôle, une exigence qui pourrait directement affecter la conception des futurs systèmes développés par les géants de la Silicon Valley, dont beaucoup sont basés en Californie. L'absence d'obligation de signalement des incidents, pointée par Newsom, prive aujourd'hui les régulateurs et le public d'une visibilité sur les défaillances réelles des modèles déployés à grande échelle.
Cette initiative californienne s'inscrit dans un contexte plus large de tensions entre les États américains et le gouvernement fédéral sur la question de la régulation de l'IA, Washington n'ayant pas encore adopté de cadre législatif national contraignant en matière de sécurité des modèles. La Californie, où sont installés la plupart des grands laboratoires d'IA comme OpenAI, Google DeepMind ou Anthropic, s'est déjà positionnée par le passé comme un État pionnier en matière de régulation technologique. Les recommandations attendues du panel d'experts dans les deux prochains mois détermineront la forme concrète que prendront ces obligations, avec la possibilité que d'autres États ou le niveau fédéral s'en inspirent ultérieurement.
Pas d'impact direct sur la France/UE