Le secrétaire général de l’ONU veut interdire les « robots IA tueurs »

Le secrétaire général de l'ONU António Guterres a appelé à interdire les « robots IA tueurs », lors d'un discours sur la gouvernance de l'intelligence artificielle prononcé à Genève et rapporté par le Wall Street Journal. Il a qualifié de « moralement répugnantes » les armes autonomes létales capables de « sélectionner et attaquer leur cible, jusqu'à ôter une vie, sans contrôle ni jugement humains », plaidant pour que certaines décisions, en particulier celle de tuer, restent « à jamais humaines ». Guterres milite pour l'inscription d'une interdiction de ces armes dans le droit international, à un moment où les armées du monde entier accélèrent l'intégration de l'IA dans leurs opérations. Le Pentagone s'appuie déjà largement sur cette technologie : les modèles d'Anthropic, utilisés depuis deux ans, ont notamment servi lors de la capture du président vénézuélien Nicolas Maduro et pendant la guerre menée par les États-Unis contre l'Iran, avant que les relations entre le département de la Défense et l'entreprise ne se dégradent fortement.

Cette prise de position intervient à un moment charnière où l'IA militaire dépasse le seul champ de bataille pour s'immiscer dans les processus décisionnels stratégiques. Un rapport de l'Assemblée nationale publié début 2025 notait déjà que les drones de combat « reposent de plus en plus sur l'intelligence artificielle », tandis que Bernard Benhamou, secrétaire général de l'Institut de la souveraineté numérique, alertait sur une technologie qui « s'introduit désormais dans des sphères hautement stratégiques et décisionnelles ». L'enjeu dépasse donc la seule automatisation du tir : il s'agit de savoir jusqu'où l'IA peut peser sur des choix qui engagent des vies humaines, avec le risque, selon Guterres, de voir la rapidité et l'efficacité devenir les seuls critères d'une décision militaire.

Cet appel s'inscrit dans un mouvement plus large de critiques envers l'IA militaire, notamment de la part du pape, dont l'encyclique Magnifica Humanitas affirme que « l'IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence ». Anthropic, dont les conditions d'utilisation interdisent pourtant de « développer ou concevoir des armes », a vu son CEO Dario Amodei reconnaître que l'IA pouvait menacer les valeurs démocratiques, via la surveillance de masse ou le développement d'armes autonomes. Le département de la Défense américain a depuis désigné Anthropic comme « fournisseur à risque » et s'est tourné vers d'autres partenaires, tandis que le lancement de Mythos a rebattu les cartes au sein de l'administration Trump. Reste que l'opacité de la régulation américaine sur les modèles les plus avancés, combinée à la trajectoire indépendante suivie par la Chine, laisse planer un doute sérieux sur les chances d'un accord international contraignant.