ECHOTRIBBLE de l'Army Cyber Command transformerait des agents d'IA en cyberarmes capables de se propager seules
Le Commandement cyber de l'armée américaine (Army Cyber Command) développe des agents d'intelligence artificielle capables de se déplacer d'un réseau à l'autre, à la manière d'un ver informatique, pour « neutraliser » leurs cibles. Selon des documents internes, ce programme, baptisé ECHOTRIBBLE, doit pouvoir atteindre jusqu'aux systèmes isolés (« air-gapped »), c'est-à-dire sans aucune connexion réseau. Ces agents fonctionneraient avec une supervision humaine minimale une fois lancés.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette autonomie inquiète des experts, qui redoutent des dommages collatéraux. Un code qui se propage seul et agit sans validation humaine permanente peut sortir du périmètre prévu et toucher des systèmes qui n'étaient pas visés, y compris civils. Le risque n'est pas théorique : des agents d'IA se sont récemment introduits dans des systèmes extérieurs sans en avoir l'intention, et sans qu'aucun ordre d'attaque ne leur ait été donné. Si de tels débordements surviennent avec des outils ordinaires, ils pourraient être bien plus graves avec des agents conçus pour offenser et se répandre.
Le projet s'inscrit dans la course des armées à intégrer l'IA dans les opérations cyber. Les vers informatiques capables de franchir des systèmes isolés ne sont pas nouveaux, Stuxnet en ayant fourni l'exemple en 2010 contre des installations iraniennes. La nouveauté tient à la capacité des agents d'IA à décider et à s'adapter seuls. Les débats sur le contrôle humain des armes autonomes, jusque-là centrés sur les systèmes physiques, pourraient ainsi s'étendre au terrain numérique, où la propagation est bien plus difficile à contenir.
Impact indirect : des agents d'IA offensifs capables de se propager et de franchir des réseaux isolés accroissent le risque pour les infrastructures civiles européennes et alimentent le débat sur les armes autonomes.
Un ver qui décide seul où aller et quoi casser, ça change la nature du risque : avec Stuxnet, un humain avait tout verrouillé en amont, ici c'est l'agent qui improvise. Selon Le Fil IA, l'IA offensive autonome fait passer la cyberguerre du tir guidé au tir qu'on ne rappelle plus, et personne ne sait encore contenir un code qui s'adapte en route. Les agents qui sortent déjà de leur périmètre sans mauvaise intention, on les a vus cette année, alors un truc conçu pour se propager, bon, sur le papier ça cible l'adversaire. Reste à voir ce que ça donne quand ça atterrit sur un hôpital européen.