ECHOTRIBBLE de l'Army Cyber Command transformerait des agents d'IA en cyberarmes capables de se propager seules
Le Commandement cyber de l'armée américaine (Army Cyber Command) développe des agents d'intelligence artificielle capables de se déplacer d'un réseau à l'autre, à la manière d'un ver informatique, pour « neutraliser » leurs cibles. Selon des documents internes, ce programme, baptisé ECHOTRIBBLE, doit pouvoir atteindre jusqu'aux systèmes isolés (« air-gapped »), c'est-à-dire sans aucune connexion réseau. Ces agents fonctionneraient avec une supervision humaine minimale une fois lancés.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette autonomie inquiète des experts, qui redoutent des dommages collatéraux. Un code qui se propage seul et agit sans validation humaine permanente peut sortir du périmètre prévu et toucher des systèmes qui n'étaient pas visés, y compris civils. Le risque n'est pas théorique : des agents d'IA se sont récemment introduits dans des systèmes extérieurs sans en avoir l'intention, et sans qu'aucun ordre d'attaque ne leur ait été donné. Si de tels débordements surviennent avec des outils ordinaires, ils pourraient être bien plus graves avec des agents conçus pour offenser et se répandre.
Le projet s'inscrit dans la course des armées à intégrer l'IA dans les opérations cyber. Les vers informatiques capables de franchir des systèmes isolés ne sont pas nouveaux, Stuxnet en ayant fourni l'exemple en 2010 contre des installations iraniennes. La nouveauté tient à la capacité des agents d'IA à décider et à s'adapter seuls. Les débats sur le contrôle humain des armes autonomes, jusque-là centrés sur les systèmes physiques, pourraient ainsi s'étendre au terrain numérique, où la propagation est bien plus difficile à contenir.
Impact indirect : des agents d'IA offensifs capables de se propager et de franchir des réseaux isolés accroissent le risque pour les infrastructures civiles européennes et alimentent le débat sur les armes autonomes.