Cette IA déshabille des femmes politiques, Meta a pourtant diffusé ses pubs
Meta a diffusé jusqu'à la mi-août des publicités pour Kromix, une application d'édition d'images par intelligence artificielle qui promettait de transformer des photos de personnes réelles en contenus sexuels générés par IA, en violation directe de ses propres règles interdisant la nudité, les contenus sexuellement suggestifs et surtout les applications dites « nudify ». La campagne a été repérée par le magazine WIRED et par Katie Paul, directrice du Tech Transparency Project. Elle comptait 32 publicités diffusées depuis un compte créé le 3 août, sans aucun abonné, chaque annonce restant en ligne entre cinq et 46 heures et cumulant le plus souvent dix impressions ou moins. L'une des publicités mettait en scène une femme ressemblant à une personnalité politique américaine connue, filmée devant les drapeaux des États-Unis et du président, avant de basculer vers une scène pornographique utilisant le même visage. Diffusée sous le slogan « Libérez la magie de l'IA nouvelle génération » et ciblant apparemment des utilisateurs masculins, une des publicités vantait une IA « sans restrictions » appliquée à de vraies personnes. Les annonces ont disparu seulement après que WIRED a commencé à interroger Meta sur cette campagne.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
L'affaire illustre l'échec des systèmes automatisés que Meta dit utiliser pour filtrer ses publicités avant diffusion sur Facebook et Instagram. Malgré des règles écrites strictes, un compte tout juste créé, sans historique ni abonnés, a réussi à faire passer plusieurs dizaines d'annonces sexuellement explicites ciblant nommément des femmes, y compris des personnalités publiques dont l'image a été détournée sans consentement. Pour les utilisateurs et pour les personnes visées, en particulier des femmes, le risque est concret : la fabrication rapide et bon marché de fausses images intimes à des fins de harcèlement, de désinformation ou d'atteinte à la réputation, avec une plateforme qui sert à la fois de vitrine publicitaire et de canal de diffusion.
Le problème n'est pas nouveau pour Meta. En 2025, le sénateur démocrate Dick Durbin avait révélé qu'environ 90 % du trafic vers une autre application de « nudification », Crush, provenait des plateformes de Meta, qui avait diffusé au moins 8 010 publicités pour ce service durant les deux premières semaines de l'année. Au printemps, une enquête du Tech Transparency Project portant sur 38 applications de manipulation d'images sexuelles disponibles sur l'App Store et Google Play évaluait leurs téléchargements cumulés à environ 483 millions et leurs revenus à près de 106 millions d'euros, dont 31 applications accessibles aux mineurs. Des poursuites judiciaires ont également été engagées cet été à San Francisco, signe que la pression réglementaire sur Meta, Apple et Google autour de ces outils continue de monter.
Pas d'impact direct sur la France/UE