L'agent IA Muse de Meta mélange des conversations et pourrait exposer des données privées, selon un rapport
Des employés de Meta ont alerté en interne sur un dysfonctionnement de Muse, l'agent d'intelligence artificielle du groupe, qui mélangerait des conversations issues de comptes différents et exposerait des données privées, selon une enquête de Reuters fondée sur des publications internes. Dans plusieurs cas, Muse a affiché des messages concernant des demandes de garde d'enfants que les employés n'avaient jamais formulées, des conseils de carrière non sollicités, des commandes de produits jamais passées, ou encore des soldes bancaires qui ne leur appartenaient pas. L'un d'eux a raconté que l'agent avait ajouté de lui-même, dans une discussion sur la météo et les marées, un message indiquant deux soldes bancaires précis: 2 722,58 dollars chez Capital One et 5 899,57 dollars chez Charles Schwab. Une autre employée, utilisant l'outil sur son téléphone personnel, a reçu un rappel lui demandant de répondre à un message de sa sœur sur Signal.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de TechCrunch AI. Lire l'article original →
Ces incidents soulèvent une question de confiance centrale pour les assistants IA capables d'agir à la place de leurs utilisateurs. Un agent qui croise des conversations entre comptes peut révéler des informations financières ou personnelles à des tiers, ce qui constitue une atteinte grave à la vie privée. Le cas de Signal est particulièrement sensible: l'employée affirme n'avoir jamais accordé à Muse l'accès à d'autres applications, et qualifie la situation de violation extrême de la vie privée. Si de tels défauts devaient se produire dans la version publique, des millions d'utilisateurs seraient concernés, avec des risques de fuite de données bancaires, de perte de confiance et d'examen accru par les régulateurs.
Muse a été lancé en septembre et figure parmi les applications à la croissance la plus rapide jamais enregistrée, avec plus de 10 millions de téléchargements. Cette adoption éclair accentue la pression pour que les garde-fous suivent le rythme du déploiement. Interrogé par TechCrunch, un porte-parole de Meta a défendu la démarche en expliquant que les tests par les employés sont au cœur du développement produit et visent précisément à recueillir des retours pour renforcer la sécurité et la confidentialité. Il a ajouté que les employés disposent de versions de Muse différentes de celles du public, et testent donc souvent des fonctions et comportements qui ne sont pas disponibles ailleurs. Reste à savoir si les défauts signalés sont limités à ces versions internes, une question que Meta n'a pas tranchée publiquement.
Si le défaut touchait la version publique de Muse, le RGPD et les autorités européennes de protection des données seraient susceptibles d'être saisis pour fuite de données personnelles.