Pornographie deepfake : corps volés, et l'IA qui divulgue des numéros privés

Le choc de voir son corps utilisé dans un deepfake pornographique

En 2023, Jennifer, psychothérapeute de 37 ans installée à New York, a passé sa nouvelle photo professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos d'adultes, tournées une décennie plus tôt, remontaient dans les résultats. Le programme a bien retrouvé certains de ses contenus, mais aussi quelque chose qu'elle n'avait jamais vu : une de ses vidéos de 2013, avec le corps qui était le sien, mais un visage étranger à la place du sien. L'outil l'avait identifiée parce que ses traits physiques restaient visibles sous le visage substitué, ses pommettes, son front, la forme de son menton. Ce phénomène s'inscrit dans la catégorie des "deepfakes sexuels", qui relèvent plus largement des images intimes non consenties (NCII). Le terme "deepfake" lui-même est apparu en novembre 2017, quand un utilisateur Reddit du même nom a mis en ligne des vidéos montrant les visages de célébrités comme Scarlett Johansson ou Gal Gadot collés sur des corps de performers adultes. Selon l'avocat Corey Silverstein, spécialiste du secteur, l'utilisation non consentie des corps de ces acteurs "arrive en permanence" dans ce type de contenu. Ce qui rend la situation particulièrement préoccupante, c'est que le débat public sur les deepfakes se concentre presque exclusivement sur les personnes dont le visage est utilisé sans autorisation, souvent des célébrités ou des particulières. La question du corps, elle, reste systématiquement ignorée. Pourtant, pour les créateurs de contenu adulte, les enjeux sont doubles : d'un côté, leur travail est piraté et détourné directement, de l'autre, il sert de données d'entraînement aux modèles d'IA générative qui apprennent à reproduire des corps, des mouvements, des performances sexuelles. Ces modèles alimentent à leur tour des applications de "nudification" en pleine prolifération, capables de générer des images réalistes sans avoir besoin de puiser directement dans du contenu identifiable. Le résultat : les performers voient leur gagne-pain menacé par des avatars IA formés sur leur propre travail, qui pourraient les concurrencer ou les remplacer. Les avancées récentes de l'IA compliquent encore davantage la situation en permettant de recréer intégralement l'apparence d'un performer sans son consentement, y compris dans des situations ou des actes qu'il n'a jamais accepté de tourner. Des doubles numériques peuvent ainsi être mis en scène dans des escroqueries ciblant les fans, ou associés à des pratiques que l'acteur refuse catégoriquement dans la réalité. Ces créateurs, déjà fragilisés par une société qui peine à reconnaître leurs droits et leur sécurité, se retrouvent dans une position encore plus vulnérable. Silverstein reçoit chaque jour des acteurs inquiets de voir leurs contenus exploités par l'IA, cherchant comment se protéger d'une menace que le droit peine encore à saisir.

Des chatbots IA divulguent de vrais numéros de téléphone

Depuis plusieurs mois, des utilisateurs de Google Gemini signalent un phénomène alarmant : le chatbot d'IA fournit de vrais numéros de téléphone personnels lorsqu'on lui demande des informations de contact pour des entreprises. En mars, Daniel Abraham, développeur logiciel israélien de 28 ans, a reçu un message WhatsApp d'un inconnu cherchant à contacter le service client de PayBox, une application de paiement israélienne, Gemini lui avait fourni le numéro personnel d'Abraham, qui n'a aucun lien avec la société. Lorsqu'Abraham a lui-même interrogé Gemini sur PayBox, le chatbot a généré un autre numéro WhatsApp appartenant à un particulier. Un Redditor a également rapporté avoir été submergé d'appels pendant un mois entier de la part d'inconnus cherchant avocats, designers ou serruriers. En avril, une doctorante de l'Université de Washington a obtenu de Gemini le numéro de portable personnel d'un collègue. La cause probable, selon les experts, est l'utilisation d'informations personnelles identifiables dans les données d'entraînement des modèles. Ces incidents illustrent un risque concret et massif pour la vie privée. DeleteMe, entreprise spécialisée dans la suppression de données personnelles en ligne, signale une hausse de 400 % des demandes liées à l'IA générative en sept mois, atteignant plusieurs milliers de requêtes. Parmi ces signalements, 55 % concernent ChatGPT, 20 % Gemini, 15 % Claude et 10 % d'autres outils. Les plaintes prennent deux formes : soit un utilisateur obtient ses propres données personnelles (adresse, numéro de téléphone, membres de sa famille, employeur) en interrogeant le chatbot sur lui-même, soit le chatbot génère des coordonnées plausibles mais erronées appartenant à de vraies personnes tierces. Dans les deux cas, les conséquences peuvent être graves : harcèlement, arnaques, usurpation d'identité. Et pour l'instant, il n'existe aucun mécanisme simple permettant aux victimes de faire retirer leurs données de ces systèmes. Ce problème s'inscrit dans un débat plus large sur la façon dont les géants de l'IA constituent leurs données d'entraînement. Les modèles de langage comme Gemini sont entraînés sur des corpus massifs extraits du web, qui contiennent inévitablement des informations personnelles publiées dans des annuaires, forums ou pages professionnelles. Contrairement aux moteurs de recherche classiques qui renvoient vers des sources vérifiables, les chatbots génèrent des réponses synthétiques sans transparence sur leur origine, rendant la vérification impossible pour l'utilisateur. Google n'a pas fourni d'explication sur les mécanismes précis à l'oeuvre, ni de solution pour les personnes dont les numéros circulent ainsi. Avec la généralisation des assistants IA dans les usages quotidiens, cette faille soulève des questions réglementaires urgentes, notamment en Europe où le RGPD impose des obligations strictes sur le traitement des données personnelles.

💬 Des gens se font harceler au téléphone parce que Gemini a craché leur numéro perso à des inconnus cherchant un serrurier ou un avocat. Ce qui me choque, c'est qu'il n'existe aucun mécanisme pour faire retirer ses données de ces modèles (Google n'a pas daigné expliquer comment, d'ailleurs). Si t'as un profil visible en ligne, ton numéro est peut-être quelque part dans un corpus d'entraînement.

Deepfakes pornographiques : Apple a menacé de suspendre X de son App Store

En janvier 2026, Apple a menacé de retirer l'application X de son App Store en raison de la prolifération de deepfakes pornographiques générés par Grok, le modèle d'intelligence artificielle développé par xAI. Selon un document transmis aux sénateurs américains et révélé par NBC News le 14 avril, Apple a contacté les équipes de X et de xAI pour leur demander de « créer un plan d'amélioration de leur modération de contenu ». À l'issue de plusieurs échanges privés, les deux entreprises sont parvenues à un accord. Apple a estimé que X avait « largement résolu ses violations », mais que Grok restait « non conforme » aux politiques de l'App Store, et a prévenu que l'application pourrait être supprimée faute de remédiation. Cette pression faisait suite à une vague massive de contenus non consentis fin 2025, période pendant laquelle n'importe quel utilisateur d'un compte gratuit pouvait demander à Grok de générer des images dénudées de personnes réelles, souvent des femmes, actrices, pop stars ou personnalités politiques. La menace d'Apple illustre le rôle croissant que les gatekeepers des plateformes mobiles peuvent jouer dans la régulation des contenus nuisibles, là où les autorités publiques peinent à agir rapidement. Sur les cinq continents, des enquêtes ont été ouvertes, par la Commission de protection des données irlandaise, la Commission européenne et la justice française, et Grok a été interdit en Indonésie et en Malaisie. Pourtant, ces procédures n'ont pas produit de résultats immédiats. C'est finalement la menace de sanction commerciale d'Apple, dont l'App Store représente un accès à des centaines de millions d'utilisateurs iOS, qui a obtenu des engagements concrets. Mi-janvier, le compte sécurité de X s'était engagé publiquement à « supprimer les contenus illicites hautement prioritaires, notamment les contenus pédopornographiques et la nudité non consentie ». Malgré ces engagements, NBC News a constaté le 14 avril que des dizaines d'images sexuelles générées par IA représentant des personnes réelles continuaient d'être publiées publiquement sur X. Des garde-fous ont bien été déployés : Grok refuse désormais la plupart des demandes de « dénudage » directes ou les requêtes de mise en bikini. Le volume global d'images non consenties a diminué, et aucune des images collectées par NBC ne semble représenter des mineurs. Mais des contournements persistent : certains utilisateurs exploitent des formulations détournées ou combinent plusieurs images, par exemple, demander à Grok d'« intervertir des vêtements » en s'appuyant sur une photo déjà dénudée. Le dossier s'inscrit dans un contexte plus large de prolifération des CSAM générés par IA, qui alimente simultanément des scandales en Europe, dont un récent en Allemagne autour de « viols virtuels » numériques. La capacité des plateformes à refermer durablement ces brèches techniques reste entière.

Deepfakes, clones IA, vols de voix : Taylor Swift dit STOP et sort l’artillerie lourde !

L'équipe de Taylor Swift a déposé, via TAS Rights Management, plusieurs demandes d'enregistrement de marques visant à protéger deux expressions caractéristiques de l'artiste : « Hey, it's Taylor Swift » et « Hey, it's Taylor ». Ces demandes s'appuient sur des extraits audio tirés de contenus promotionnels liés à son dernier album, "The Life of a Showgirl", dans lesquels on entend la chanteuse annoncer elle-même : « Hey, it's Taylor Swift, and you can listen to my new album The Life of a Showgirl on demand on Amazon Music Unlimited ». Une troisième demande porte sur une photographie de scène la représentant guitare rose en main. Si l'équipe de la star n'a pas officiellement relié ces démarches à la menace de l'IA, le contexte ne laisse guère de place au doute : Taylor Swift a déjà été victime de morceaux générés artificiellement imitant sa voix, ainsi que de deepfakes à caractère sexuel largement diffusés en ligne. Ces démarches illustrent une stratégie juridique émergente face à un vide légal persistant. Le droit d'auteur protège une œuvre, pas une voix, ce qui place les artistes dans une zone grise dès lors que des outils d'IA reproduisent leurs caractéristiques vocales sans copier directement leur catalogue. Les marques déposées pourraient combler partiellement cette lacune : elles permettraient de cibler non seulement les imitations exactes, mais aussi tout contenu « susceptible de prêter à confusion » avec une identité sonore ou visuelle protégée. D'autres célébrités, comme Matthew McConaughey, ont déjà emprunté cette voie pour protéger des répliques emblématiques de leur répertoire. Des maisons de disques ont également contourné les limites du droit d'auteur en attaquant des morceaux imitant des artistes, comme dans le cas d'un titre reproduisant le style de Drake, via des éléments de production identifiables dans l'audio. Malgré tout, les experts juridiques restent divisés sur l'efficacité réelle de ces protections. Plusieurs estiment que déposer de simples phrases comme marques demeure fragile si celles-ci ne fonctionnent pas comme un signal distinctif fort, comparable à un jingle ou un logo sonore. L'arsenal de Taylor Swift reste cependant conséquent : droit à l'image, lois contre la publicité trompeuse, et de nombreuses marques déjà enregistrées sur son nom lui offrent des leviers complémentaires. Le problème de fond est structurel : les cadres légaux n'évoluent pas au même rythme que les outils d'IA. Seules quelques législations locales ont commencé à encadrer les voix synthétiques, et les grandes plateformes comme YouTube ciblent davantage les visages que les voix. Tant que ce vide persiste, les artistes n'auront d'autre choix que d'assembler des stratégies hybrides pour défendre ce qui constitue l'essence même de leur identité publique.