Meta annonce des changements dans ses suggestions IA après des questions personnelles jugées intrusives
Meta a annoncé des changements dans les suggestions générées par son assistant IA après qu'une vidéo virale a montré l'outil sollicitant des informations personnelles invasives sur les jeunes filles d'une utilisatrice. L'utilisatrice Instagram Kalie Robins a publié une vidéo expliquant que Meta AI avait fait apparaître, sous un clip la montrant avec ses enfants republié depuis Instagram vers Facebook, la question "Qui est l'enfant passager ?". Contactée par The Verge, la porte-parole de Meta Dina El-Kassaby a reconnu que l'entreprise "s'était trompée de cible", précisant que "la fonctionnalité n'aurait jamais dû suggérer ce type de question à cette personne". L'affaire avait été révélée initialement par le site Futurism avant d'être reprise par The Verge.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Cet incident relance les inquiétudes sur la manière dont les assistants IA intégrés aux réseaux sociaux exploitent le contenu visuel des utilisateurs pour générer des suggestions de légendes ou de réponses automatiques, parfois au prix d'intrusions dans la vie privée de mineurs. Pour les familles qui partagent des photos et vidéos d'enfants sur Facebook et Instagram, l'épisode illustre le risque que des systèmes d'IA analysent et commentent des données sensibles sans garde-fous suffisants. Il met aussi en lumière la pression croissante sur Meta pour prouver que ses outils d'intelligence artificielle respectent des limites claires en matière de protection des mineurs, un sujet déjà sensible pour l'entreprise.
Ce cas s'inscrit dans une série de controverses autour du déploiement massif de fonctionnalités IA par Meta sur ses plateformes, souvent critiquées pour leur manque de discernement contextuel. L'entreprise, qui investit massivement dans l'intelligence artificielle générative face à la concurrence d'OpenAI et Google, doit désormais démontrer qu'elle peut corriger rapidement ces dérives sans attendre une nouvelle vague de critiques publiques. D'autres ajustements des prompts suggérés par Meta AI pourraient suivre à mesure que des cas similaires seront signalés par les utilisateurs.
Les familles françaises et européennes partageant des photos d'enfants sur Facebook et Instagram sont exposées au même risque que Meta AI analyse et commente des données sensibles sans garde-fous suffisants.