Repenser la sécurité des robots à l'ère de l'IA
Le fournisseur de cybersécurité VicOne a publié une analyse détaillant les nouvelles vulnérabilités qui menacent les robots dotés d'intelligence artificielle physique. Dès 2017, la démonstration BadNets avait révélé qu'un modèle d'IA pouvait fonctionner normalement tout en échouant face à un déclencheur caché, un panneau stop étant par exemple mal classé comme panneau de limitation de vitesse. Cette faille s'est depuis étendue à la manipulation d'actions physiques : lors de la conférence NeurIPS 2025, des chercheurs ont présenté BadVLA, une attaque par porte dérobée visant les modèles Vision-Language-Action qui permettent à un robot de percevoir son environnement, d'interpréter des instructions et de produire des mouvements coordonnés. En présence d'un déclencheur, le modèle dévie de sa trajectoire prévue, tout en conservant un comportement normal en son absence, y compris après un transfert de tâche ou un réglage fin. Une autre étude de 2025, baptisée GoBA, a montré qu'un objet anodin comme une tasse à café pouvait servir de déclencheur fiable, avec un taux de réussite de l'attaque de 97%, sans dégrader les performances sur des entrées non compromises. En septembre 2025, des chercheurs ont par ailleurs révélé UniPwn, une chaîne d'exploitation Bluetooth touchant des robots quadrupèdes et humanoïdes d'un grand fabricant, combinant clés cryptographiques codées en dur, contournement de l'authentification et injection de commandes menant à une exécution avec droits root.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de IEEE Spectrum AI. Lire l'article original →
Ces découvertes bouleversent la manière dont l'industrie doit évaluer la sécurité robotique. Un modèle peut réussir tous les tests classiques et pourtant produire un comportement corrompu dès qu'un déclencheur apparaît en conditions réelles, ce qui rend les validations traditionnelles insuffisantes. Le caractère "vermifuge" de la faille UniPwn illustre un risque systémique : un seul robot compromis peut scanner les unités voisines et contaminer une flotte entière, un scénario critique pour les usines, entrepôts ou environnements où des robots humanoïdes ou quadrupèdes opèrent en réseau. Pour les fabricants, les opérateurs industriels et les régulateurs, cela signifie que la sécurité ne peut plus se limiter à la résistance aux pannes mécaniques, mais doit désormais intégrer l'intégrité des données perceptives et décisionnelles tout au long du cycle de vie du robot.
Ce constat s'inscrit dans un contexte où l'adoption de l'IA physique s'accélère, avec des couches d'attaque multiples : les données d'entraînement, l'infrastructure système, et la perception en temps réel. Les vulnérabilités logicielles, notamment dans les intergiciels ROS 2 et les systèmes basés sur DDS, ouvrent la voie à une exécution de code arbitraire ou à l'exploitation de canaux non authentifiés pour détourner des commandes moteur ou remplacer les poids d'un modèle d'IA. Pour anticiper ces risques avant le déploiement, VicOne a développé Radeis, un outil de validation de sécurité couplé au simulateur NVIDIA Isaac Sim, capable de tester l'effet d'entrées visuelles adverses sur le comportement d'un robot. Une démonstration de VicOne a montré qu'enchaîner trois exploits sans fil suffisait à provoquer un comportement robotique incontrôlé en moins de 60 secondes, soulignant l'urgence d'intégrer la cybersécurité dès la conception des systèmes robotiques.
Les fabricants et opérateurs industriels européens déployant des robots dotes d'IA physique devront intégrer ces nouvelles classes de vulnérabilités dans leurs audits de cybersécurité.