Meta Muse expose des secrets personnels et professionnels lorsque les utilisateurs partagent leurs conversations
Muse, le nouvel agent d'IA généraliste de Meta, peut exposer des informations sensibles lorsque ses utilisateurs partagent des conversations via des liens Web, ont rapporté lundi des chercheurs de la société de sécurité Claroc. Comme beaucoup de services en ligne, Muse permet de partager des recherches, des conversations ou des images en générant une URL unique qui ouvre une page hébergeant le contenu. Ces adresses contiennent habituellement une longue séquence de caractères impossible à deviner, afin d'empêcher tout accès non voulu. Or, selon Claroc, un choix de conception dans la construction de ces URL les rend faciles à découvrir. Les chercheurs affirment avoir pu énumérer 6 800 liens de partage de conversations créés par des utilisateurs de Muse. Après en avoir ouvert quelques centaines, ils ont trouvé des informations manifestement non destinées à être publiques, notamment des données personnelles et professionnelles. Une seule requête suffit pour amorcer cette découverte.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Cette faille est d'autant plus embarrassante que Mark Zuckerberg, le PDG de Meta, avait présenté le mois dernier Muse comme un outil « conçu dès le départ pour la confidentialité et la sécurité ». Concrètement, toute personne ayant partagé une conversation, par exemple pour montrer un résultat à un collègue ou à un proche, a pu voir son contenu devenir accessible à des inconnus, sans en avoir conscience. Les secrets d'affaires, les échanges personnels et les documents collés dans un agent d'IA sont particulièrement exposés, car les utilisateurs y confient souvent des informations qu'ils ne publieraient jamais volontairement. Pour les entreprises dont les employés utilisent Muse, le risque porte sur des fuites de données confidentielles difficiles à détecter et à réparer, puisque les liens ont pu être indexés ou copiés.
Ce type d'incident n'est pas nouveau dans le secteur. Plusieurs services d'IA grand public ont déjà vu des conversations partagées apparaître dans des moteurs de recherche ou être récupérées en masse, ce qui a conduit à des retraits de fonctionnalités et à des excuses publiques. Il rappelle que la sécurité d'une fonction de partage repose sur l'imprévisibilité réelle des identifiants, et pas seulement sur leur longueur apparente. Meta, qui multiplie les lancements d'assistants pour rivaliser avec OpenAI, Google et Anthropic, est désormais attendue sur la correction du problème, sur l'invalidation des liens déjà créés et sur l'information de ses utilisateurs. Les régulateurs de la protection des données, notamment en Europe, pourraient aussi s'y intéresser.
Les régulateurs européens de la protection des données pourraient examiner cette fuite potentielle de données personnelles d'utilisateurs et d'entreprises de l'UE au regard du RGPD.