L'IA pourrait-elle vraiment tous nous tuer ? Vos questions, nos réponses

Les deux journalistes divergent sur l'ampleur du risque, signe que le sujet reste débattu au sein même de la communauté spécialisée. Grace Huckins juge un risque individuel non nul, citant un effondrement économique mondial, une cyberattaque menée par un essaim d'agents IA contre des infrastructures critiques, ou un pathogène conçu par une IA. Will Douglas Heaven écarte tout scénario d'extinction totale, qu'il qualifie de science-fiction, mais alerte sur le fait qu'une fixation sur des catastrophes lointaines détourne l'attention des dommages déjà mesurables causés par les systèmes actuels et les entreprises qui les développent. Ce désaccord compte pour les régulateurs, car il oriente la répartition des efforts entre préparation à des scénarios extrêmes et correction des risques immédiats déjà documentés.

Le débat renvoie aux recherches sur l'alignement, la discipline qui vise à garantir que les modèles se comportent selon les intentions humaines plutôt que selon des objectifs détournés. Les deux journalistes soulignent la difficulté de cette tâche, les capacités des systèmes progressant plus vite que les méthodes pour les contrôler. Ils notent que les avertissements formulés depuis des années par les chercheurs les plus alarmistes, longtemps jugés marginaux, se sont révélés étonnamment justes à mesure que les modèles gagnaient en puissance, sans que cela valide leurs prévisions les plus sombres. Cette discussion intervient alors que grandes entreprises d'IA, gouvernements et chercheurs indépendants tentent de définir des garde-fous communs, tandis que des incidents concrets, drones autonomes en Ukraine, piratages menés par des agents automatisés, rappellent que ces risques ne sont plus purement théoriques.