Muse permettrait de télécharger l'intégralité de son système de fichiers
Deux développeurs, Peter James et Jonny L. Saunders, affirment avoir réussi indépendamment à faire extraire par Muse, l'assistant IA de Meta, l'intégralité de son système de fichiers. Selon leurs constats, il suffit d'une invite minimale pour amener Muse à compresser et partager le contenu complet de son système de fichiers racine, les fichiers systèmes Ubuntu, les modèles d'applications internes et la documentation interne de Meta. Saunders a publié sur Mastodon qu'il lui avait été "extrêmement facile" de reproduire les résultats obtenus par James, précisant que Muse ne disposait "quasiment d'aucune résistance à l'injection de prompt". Meta a réagi en niant qu'il s'agisse d'une faille de sécurité, rappelant que Muse fonctionne dans des machines virtuelles Linux persistantes propres à chaque utilisateur, une architecture décrite dans l'annonce initiale du produit.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Cet épisode relance les inquiétudes sur la robustesse des assistants IA dotés d'un accès à un environnement d'exécution complet, en particulier face aux techniques d'injection de prompt, une catégorie de vulnérabilité connue mais encore mal maîtrisée par l'industrie. Si le système de fichiers exposé ne contient que des composants standards de la machine virtuelle plutôt que des données sensibles d'autres utilisateurs, la facilité avec laquelle deux chercheurs indépendants ont contourné les protections interroge sur le niveau réel de sécurité promis par Meta pour un produit destiné à un usage grand public. Pour les entreprises qui envisagent de déployer des agents IA capables d'exécuter du code ou de manipuler des fichiers, l'incident illustre concrètement les risques liés à l'octroi d'un accès système étendu à un modèle de langage.
L'affaire s'inscrit dans un débat plus large sur la sécurisation des agents IA "agentiques", capables d'agir au-delà de la simple génération de texte en manipulant des environnements informatiques réels. Meta a positionné Muse comme un outil s'appuyant sur des machines virtuelles Linux individuelles pour chaque utilisateur, une architecture censée isoler les données et limiter les risques. La divergence entre la communication de l'entreprise, qui minimise l'incident, et les démonstrations techniques des chercheurs pourrait alimenter la pression sur Meta pour renforcer ses défenses contre l'injection de prompt avant un déploiement plus large du produit.
Les entreprises européennes envisageant de déployer des agents IA a accès système étendu doivent tirer les leçons de cette faille en matière de sécurisation contre l'injection de prompt.