Le fait le plus glaçant vient du Pentagone: selon CNN, qui cite quatre sources, l'armée américaine a frôlé l'interception d'un navire chinois après qu'un rapport de renseignement, fondé sur une hallucination de l'IA et jugé « entièrement faux », a affirmé qu'il transportait des composants pour un programme nucléaire vers le Moyen-Orient. La frappe a été annulée in extremis: une IA qui invente des faits a failli remonter jusqu'au sommet de la chaîne de décision militaire américaine.
La régulation s'accélère face à ces risques: le gouverneur de Californie Gavin Newsom a signé vendredi un décret exécutif ouvrant la voie à un « kill switch », un interrupteur d'arrêt d'urgence que l'État pourrait imposer aux modèles d'IA de pointe. L'idée: donner aux autorités un levier direct pour couper un système jugé dangereux, sans attendre une loi fédérale qui se fait toujours attendre. Berceau de la plupart des grands labos américains, la Californie s'impose en arbitre du secteur.
Même logique côté industrie: Dario Amodei, le patron d'Anthropic, a présenté sa stratégie pour ralentir volontairement la course à l'IA, une semaine après l'avertissement alarmiste d'un chercheur de sa propre entreprise. Reste une question que ni lui, ni Sacramento, ni le Pentagone n'ont tranchée: qui appuiera vraiment sur le bouton d'arrêt le jour où il le faudra. Entre une armée qui a failli se tromper de cible, un État qui légifère dans l'urgence et des dirigeants qui promettent de lever le pied, un seul constat s'impose ce samedi: contrôler l'IA est devenu plus urgent que la faire progresser.