Meta a diffusé des pubs pour une appli promettant de dénuder des femmes politiques par IA
Meta a diffusé des publicités pour Kromix, une application se présentant comme un "styliste d'images par IA", qui faisait la promotion d'un générateur de deepfakes pornographiques représentant des femmes politiques américaines. Selon des publicités visionnées par le magazine WIRED, une voix off vante un outil "sans restrictions" où "tous les personnages sont de vraies personnes", le décrivant comme "l'IA que les hommes utilisent vraiment". Dans l'une des vidéos, une femme ressemblant fortement à une personnalité politique américaine de premier plan apparaît devant le drapeau des États-Unis et celui du président, avec la légende "Et si elle bougeait ?". Elle fait un clin d'œil avant que la publicité n'enchaîne sur une scène pornographique générée par IA reprenant le même visage. L'application, qui était disponible sur l'App Store d'Apple avant que WIRED ne sollicite un commentaire, propose aux utilisateurs payants de téléverser des photos pour générer des scénarios incluant des mises en scène de viol ou des costumes de Spider-Man détournés à des fins pornographiques. Les tentatives de contact avec l'éditeur de l'application sont restées sans réponse.
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Cette affaire illustre les failles persistantes des politiques publicitaires de Meta, censées interdire tout contenu à caractère sexuel, et plus largement son incapacité répétée à empêcher la diffusion d'outils produisant des images intimes non consenties. Le fait que des figures politiques soient explicitement ciblées ajoute une dimension supplémentaire, mêlant harcèlement sexuel et désinformation politique, avec un risque de banalisation de ce type de contenu auprès d'un large public exposé via les réseaux publicitaires de Meta.
Cet épisode s'inscrit dans une série d'incidents similaires documentés ces derniers mois, où des applications de "nudification" ou de génération de deepfakes pornographiques ont réussi à contourner la modération publicitaire des grandes plateformes, notamment Meta et Apple. La pression monte sur ces entreprises pour qu'elles renforcent leurs contrôles, alors que des législateurs dans plusieurs pays examinent des textes visant à encadrer plus strictement les deepfakes sexuels non consentis, en particulier lorsqu'ils visent des personnalités publiques ou des femmes en politique.
Pas d'impact direct sur la France/UE