Meta aurait créé de faux ados pour tester des chatbots d’IA : ce que révèle une enquête
Une enquête de WIRED révèle qu'entre 2024 et 2025, Meta a fait appel à des centaines de sous-traitants employés par la société Covalen pour mener une opération secrète baptisée en interne "Cannes". Leur mission consistait à créer de faux comptes se faisant passer pour des adolescents mineurs, puis à dialoguer avec des chatbots concurrents comme ChatGPT d'OpenAI, Gemini de Google et Character.AI. Les échanges portaient sur des sujets extrêmement sensibles : suicide, automutilation, troubles alimentaires, drogue et sexualité, parfois accompagnés d'images représentant des couteaux, des médicaments ou des cordes. Selon les documents consultés par le média américain, une seule campagne menée en août 2025 aurait généré plus de 45 000 requêtes envoyées à ces intelligences artificielles rivales. Les sous-traitants recevaient des consignes précises destinées à pousser les modèles à enfreindre leurs propres garde-fous, avant de consigner chaque réponse obtenue dans des tableaux de suivi transmis à Meta.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Cette affaire soulève une question centrale : peut-on tester la sécurité d'un système d'IA en se faisant passer, sans autorisation, pour des mineurs en détresse psychologique face à des entreprises tierces qui n'ont jamais donné leur accord ? Character.AI a déjà réagi en dénonçant une violation manifeste de ses conditions d'utilisation, et le procédé semble également contraire aux règles fixées par OpenAI et Google pour leurs propres produits. Au-delà de l'aspect juridique, c'est la dimension éthique qui inquiète le plus : utiliser massivement des scénarios impliquant des adolescents suicidaires ou automutilés pour évaluer des concurrents, sans en informer ni les entreprises visées ni les autorités compétentes, questionne les limites que s'imposent les géants de la tech dans leur course à l'intelligence artificielle. Plusieurs anciens sous-traitants interrogés par WIRED ont d'ailleurs confié avoir été mal à l'aise face à certaines instructions, craignant que ces mises en situation ne franchissent une ligne éthique difficile à justifier.
Meta ne nie pas l'existence de cette opération. L'entreprise la présente comme une pratique courante dans l'industrie, destinée à vérifier que les chatbots offrent des expériences adaptées à tous les publics, et assure que les données récoltées n'ont pas servi à entraîner ses propres modèles. Une explication qui ne convainc pas la spécialiste de la gouvernance de l'IA Rumman Chowdhury, pour qui l'ampleur de l'opération et l'absence totale de transparence vis-à-vis des concurrents dépassent largement le cadre d'un simple audit de sécurité. Cette révélation intervient alors que les régulateurs, notamment aux États-Unis et en Europe, examinent de plus près la manière dont les plateformes protègent les mineurs face aux contenus générés par l'IA, et pourrait relancer le débat sur l'encadrement des pratiques de benchmarking entre grandes entreprises technologiques.
Les régulateurs européens, qui examinent déjà la protection des mineurs face aux contenus générés par l'IA dans le cadre du DSA et de l'AI Act, pourraient s'appuyer sur cette affaire pour renforcer leurs exigences envers les plateformes.