28 failles zero-day découvertes en moins de deux jours : la sécurité de la robotique suit-elle le rythme ?
La société de cybersécurité VicOne affirme avoir identifié un premier lot de 28 vulnérabilités zero-day en moins de deux jours, grâce à des outils de recherche assistés par l'intelligence artificielle. Les failles touchent des logiciels et outils qui soutiennent l'écosystème de l'IA physique, dont des projets développés ou maintenus par Google, NVIDIA et Meta, entre autres. Selon une première validation, les 28 découvertes sont des zero-day, mais ce décompte pourrait évoluer après examen par les éditeurs et les autorités de référencement des vulnérabilités, et certaines failles n'ont pas encore reçu de numéro CVE. Les composants concernés servent à entraîner, simuler, tester et exploiter des robots. Les failles se répartissent sur trois étapes du cycle de vie : développement et entraînement, simulation et validation, déploiement et exécution. Au total, 75 % des découvertes concernent des outils de développement, d'entraînement, de simulation ou de validation, donc des risques qui apparaissent avant même la mise en service du robot.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de IEEE Spectrum AI. Lire l'article original →
L'enjeu est concret à chaque étape. Lors de l'entraînement, le chargement d'un modèle pré-entraîné malveillant pourrait donner à un attaquant l'accès au système d'entraînement et lui permettre de modifier les données ou le modèle. Celui-ci se comporterait normalement durant les tests courants, mais réagirait mal face à un objet, une scène ou une commande précise une fois déployé. En simulation, l'importation d'une scène ou d'un modèle de robot compromis pourrait permettre de falsifier les capteurs simulés, les conditions physiques ou les résultats, et un robot pourrait réussir des tests qui auraient dû révéler un comportement dangereux. À l'exécution, un attaquant pourrait modifier des fichiers qui influencent la planification de mouvement, ou envoyer des données de carte malveillantes qui font planter l'écran de supervision de l'opérateur. Compromettre un poste de téléopération pourrait aussi mettre en danger les instructions envoyées au robot. Ces conséquences restent potentielles et dépendent de l'accès de l'attaquant, de la conception du système et des protections existantes. Dans une démonstration distincte, les chercheurs de VicOne ont exploité une faille pour empêcher le fonctionnement de la commande d'arrêt à distance d'un robot, ce qui montre l'importance de vérifier que les garde-fous restent efficaces quand les logiciels qui les soutiennent sont compromis.
Ces résultats s'inscrivent dans un contexte où l'IA accélère la recherche de vulnérabilités, c'est-à-dire l'analyse du code, le suivi des communications entre systèmes et la vérification de l'exploitabilité d'une faille. Des attaquants pourraient disposer de capacités similaires, ce qui laisse aux équipes très peu de temps pour réagir face à un zero-day, sans qu'une attaque ait nécessairement eu lieu. Même lorsqu'un correctif est publié, les équipes de robotique doivent identifier les systèmes concernés, vérifier la compatibilité et s'assurer que la mise à jour préserve le comportement prévu, car un test réussi antérieurement peut ne pas avoir couvert les conditions révélées par la nouvelle faille. VicOne recommande de se poser plusieurs questions : où le logiciel touché est-il utilisé, des ordinateurs d'entraînement aux robots déployés, et que pourrait modifier la faille ? Ces interrogations devraient guider la réponse des équipes à mesure que l'IA accélère la découverte de failles dans la chaîne logicielle de la robotique.