Deepfakes pornographiques : Apple a menacé de suspendre X de son App Store

Le choc de voir son corps utilisé dans un deepfake pornographique

En 2023, Jennifer, psychothérapeute de 37 ans installée à New York, a passé sa nouvelle photo professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos d'adultes, tournées une décennie plus tôt, remontaient dans les résultats. Le programme a bien retrouvé certains de ses contenus, mais aussi quelque chose qu'elle n'avait jamais vu : une de ses vidéos de 2013, avec le corps qui était le sien, mais un visage étranger à la place du sien. L'outil l'avait identifiée parce que ses traits physiques restaient visibles sous le visage substitué, ses pommettes, son front, la forme de son menton. Ce phénomène s'inscrit dans la catégorie des "deepfakes sexuels", qui relèvent plus largement des images intimes non consenties (NCII). Le terme "deepfake" lui-même est apparu en novembre 2017, quand un utilisateur Reddit du même nom a mis en ligne des vidéos montrant les visages de célébrités comme Scarlett Johansson ou Gal Gadot collés sur des corps de performers adultes. Selon l'avocat Corey Silverstein, spécialiste du secteur, l'utilisation non consentie des corps de ces acteurs "arrive en permanence" dans ce type de contenu. Ce qui rend la situation particulièrement préoccupante, c'est que le débat public sur les deepfakes se concentre presque exclusivement sur les personnes dont le visage est utilisé sans autorisation, souvent des célébrités ou des particulières. La question du corps, elle, reste systématiquement ignorée. Pourtant, pour les créateurs de contenu adulte, les enjeux sont doubles : d'un côté, leur travail est piraté et détourné directement, de l'autre, il sert de données d'entraînement aux modèles d'IA générative qui apprennent à reproduire des corps, des mouvements, des performances sexuelles. Ces modèles alimentent à leur tour des applications de "nudification" en pleine prolifération, capables de générer des images réalistes sans avoir besoin de puiser directement dans du contenu identifiable. Le résultat : les performers voient leur gagne-pain menacé par des avatars IA formés sur leur propre travail, qui pourraient les concurrencer ou les remplacer. Les avancées récentes de l'IA compliquent encore davantage la situation en permettant de recréer intégralement l'apparence d'un performer sans son consentement, y compris dans des situations ou des actes qu'il n'a jamais accepté de tourner. Des doubles numériques peuvent ainsi être mis en scène dans des escroqueries ciblant les fans, ou associés à des pratiques que l'acteur refuse catégoriquement dans la réalité. Ces créateurs, déjà fragilisés par une société qui peine à reconnaître leurs droits et leur sécurité, se retrouvent dans une position encore plus vulnérable. Silverstein reçoit chaque jour des acteurs inquiets de voir leurs contenus exploités par l'IA, cherchant comment se protéger d'une menace que le droit peine encore à saisir.

Pornographie deepfake : corps volés, et l'IA qui divulgue des numéros privés

En 2023, une femme prénommée Jennifer a passé sa photo de profil professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos pour adultes remonteraient dans les résultats. Elles sont apparues, mais avec une surprise : une de ses vidéos originales avait été modifiée, son visage remplacé par celui d'une autre personne. Son corps, lui, était toujours là. Ce cas illustre une réalité peu discutée du deepfake pornographique : si le débat se concentre habituellement sur les victimes dont le visage est incrusté sans consentement dans des contenus explicites, les créatrices de contenu adulte dont le corps est utilisé comme base sont quasi invisibles dans ce débat. Elles témoignent que des systèmes d'IA s'entraînent sur leurs productions, clonent leurs apparences, et génèrent des contenus qu'elles n'ont jamais approuvés, sans protection juridique réelle ni moyen de contrôle. En parallèle, une autre atteinte à la vie privée prend de l'ampleur : des chatbots IA comme Gemini divulguent des numéros de téléphone personnels. Un développeur a commencé à recevoir des messages WhatsApp de parfaits inconnus après que Gemini avait rendu son numéro accessible. Une chercheuse universitaire a réussi à obtenir le numéro privé d'une collègue via le même outil. Un utilisateur Reddit a vu affluer des appels de personnes cherchant des avocats, son numéro ayant été fourni par erreur par l'IA. Ces deux phénomènes ont des conséquences concrètes et durables. Pour les créatrices de contenu adulte, la perte de contrôle sur leur image corporelle menace directement leurs revenus et leur sécurité, dans un secteur déjà vulnérable juridiquement. Pour les victimes de fuites de numéros, le harcèlement involontaire généré est difficile à stopper : les experts consultés par le MIT Technology Review estiment que ces données personnelles proviennent des corpus d'entraînement des modèles, et qu'aucun mécanisme simple ne permet aux victimes d'y remédier. Ces incidents révèlent une fragilité systémique : l'IA rend triviale la recherche d'informations qui étaient auparavant dispersées ou inaccessibles. Ces problèmes s'inscrivent dans un contexte plus large de régulation encore balbutiante autour de l'IA générative. Le droit à l'image, la propriété intellectuelle sur les corps, et la protection des données personnelles n'ont pas été conçus pour répondre à ces usages. Pendant ce temps, d'autres signaux alimentent les tensions autour de l'IA : Sam Altman détient plus de deux milliards de dollars d'investissements dans des entreprises ayant des relations commerciales avec OpenAI, soulevant des accusations de conflits d'intérêts examinées par le Parti républicain. Et une étude relayée par 404 Media suggère que les développeurs perdent leurs capacités techniques à force de déléguer à l'IA, alimentant un début de backlash populaire contre sa généralisation.

💬 Ce qui me dérange dans ces deux histoires, c'est que l'IA n'a rien inventé : elle rend juste trivial ce qui était difficile avant. Un numéro dispersé dans un corpus, un corps dans une vieille vidéo, tu n'y accédais pas sans outil spécialisé, mais maintenant c'est cherchable et exploitable en quelques secondes. Le droit a été conçu pour un monde où l'information restait éparpillée, et ce monde-là n'existe plus.

Meta traque les moindres gestes de ses employés pour nourrir son IA : ils ont dit stop

Meta a dû reculer face à la fronde interne provoquée par son programme MCI (Model Capability Initiative), un dispositif de surveillance des employés lancé en avril 2026 et destiné à entraîner ses intelligences artificielles. Selon une note interne relayée par The Information et des publications consultées par Reuters, l'entreprise a annoncé plusieurs ajustements : renforcement des protections de la vie privée, possibilité pour certains salariés de demander une exemption, et introduction d'une fonction permettant de suspendre le suivi pendant 30 minutes. Concrètement, MCI enregistre les mouvements de souris, les clics, la navigation dans les menus et surveille plus de 200 applications et sites web sur les ordinateurs des employés américains. L'objectif déclaré est de développer des agents IA capables d'exécuter de manière autonome des tâches informatiques du quotidien. Mais des analyses internes ont révélé que la collecte allait bien au-delà : modifications de code, cycles de mise en veille, historiques de navigation, contenus copiés-collés dans le presse-papiers, et même des échanges par e-mail ou Google Chat impliquant des collègues situés hors des États-Unis. Meta a par ailleurs reconnu que certaines de ces données avaient été stockées sous une forme moins sécurisée que prévu, et que le logiciel provoquait des pics de consommation internet pouvant épuiser un forfait mensuel en quelques jours. L'ampleur de la révolte illustre les limites d'une approche qui traite les salariés comme source de données d'entraînement sans leur consentement éclairé. Le porte-parole Dave Arnold a insisté sur le fait que MCI cible les interactions avec les ordinateurs et non le contenu affiché, mais les journaux techniques examinés en interne contredisent partiellement cette affirmation. Pour les employés concernés, les enjeux sont doubles : une atteinte directe à la vie privée sur leurs outils de travail, et un précédent qui pourrait normaliser une surveillance de masse au sein des grandes entreprises tech. Pour le secteur plus largement, cette résistance pose une question de fond : jusqu'où les entreprises peuvent-elles mobiliser leurs propres effectifs comme matière première pour l'IA sans déclencher une opposition organisée ? Meta n'est pas seule à chercher des données comportementales réalistes pour entraîner des agents IA capables de piloter des interfaces graphiques. Microsoft, Google et Anthropic travaillent tous sur des systèmes similaires. La différence, c'est que Meta a choisi de collecter ces données directement sur les machines de ses propres employés, court-circuitant le recours à des datasets publics ou à des utilisateurs volontaires. Cette stratégie révèle une pression croissante sur les labos d'IA pour produire des agents "computer use" compétitifs, dans un calendrier serré. Les concessions annoncées par Meta ressemblent davantage à un ajustement tactique qu'à une remise en cause du programme : MCI continue de fonctionner, et la collecte de comportements humains réels demeure au coeur de la course aux agents autonomes.

☕️ Suno a aspiré des millions de chansons pour entraîner son IA

Suno, la start-up américaine spécialisée dans la génération musicale par intelligence artificielle, avait déjà reconnu en 2024, lors d'une procédure judiciaire intentée par l'industrie du disque aux États-Unis, avoir aspiré « pratiquement tous les fichiers musicaux de qualité raisonnable accessibles sur l'internet ouvert ». Un hacker vient de fournir au média 404media des données internes qui précisent enfin l'ampleur réelle de cette collecte. Les plateformes pillées incluent YouTube Music, Deezer, Genius, Pond5, Jamendo, Freesound et IMSLP. Les volumes révélés sont considérables : plus de deux millions d'extraits provenant de YouTube Music, et des dizaines de milliers d'heures issues du seul catalogue de Deezer. Le code dérobé montre aussi que Suno recherchait spécifiquement des versions a cappella sur YouTube, vraisemblablement pour isoler et analyser les voix plus facilement. Pour mener cette collecte à grande échelle, l'entreprise se serait appuyée sur Bright Data, spécialiste de l'extraction automatisée de données. Le même pirate affirme avoir également accédé aux coordonnées de centaines de milliers de clients de Suno ainsi qu'à des informations liées à des paiements Stripe, après s'être introduit dans les systèmes de l'entreprise grâce aux identifiants compromis d'un salarié, lors d'un incident survenu en novembre dernier. Ces révélations pourraient peser lourd dans le rapport de force entre Suno et l'industrie musicale. La RIAA, puissant lobby des maisons de disques américaines, accuse déjà la start-up d'avoir extrait directement des fichiers audio depuis YouTube en contournant les mécanismes anti-copie de la plateforme. Si les données du hacker confirment que Suno a siphonné des catalogues commerciaux et enfreint les conditions d'utilisation de plusieurs services, les ayants droit disposeraient d'arguments supplémentaires pour faire tomber la défense de « fair use » invoquée par l'entreprise, une exception au droit d'auteur régulièrement brandie par les laboratoires d'IA générative. Au-delà de Suno, l'affaire alimente un débat plus large sur la légitimité de l'entraînement des modèles d'IA à partir d'œuvres protégées, sans consentement ni rémunération des créateurs. La fuite de données personnelles de clients ajoute une dimension supplémentaire, même si l'entreprise assure qu'aucune information sensible ni numéro complet de carte bancaire n'a été compromis. Ce dossier s'inscrit dans une bataille juridique plus vaste que l'ICMP a qualifiée de « plus grand vol de propriété intellectuelle de l'histoire ». Suno a toutefois vu son horizon judiciaire s'éclaircir en novembre dernier en signant un accord avec Warner Music, lui permettant désormais d'exploiter légalement le catalogue de la major. Cette entente contraste avec les pratiques de collecte révélées par le piratage, et illustre la stratégie des acteurs de l'IA musicale : négocier des licences avec certains labels tout en continuant de se défendre juridiquement sur les usages passés. L'issue des procédures en cours pourrait déterminer si d'autres géants du disque, comme Universal ou Sony, suivront la voie de Warner ou maintiendront la pression judiciaire contre Suno.