Une star ruinée par un deepfake : quand la justice croit un mensonge fabriqué par IA

La modération des deepfakes de Meta jugée insuffisante par l'Oversight Board

L'Oversight Board de Meta, l'organe semi-indépendant chargé de superviser les pratiques de modération du groupe, a rendu un verdict sévère : les méthodes actuelles de Meta pour détecter et étiqueter les contenus générés par intelligence artificielle sont « ni suffisamment robustes ni suffisamment complètes » pour contenir la vitesse à laquelle la désinformation se propage en temps de conflit armé. Cette conclusion fait suite à une enquête sur une vidéo deepfake montrant de faux dommages à des bâtiments en Israël, diffusée l'année dernière sur Facebook, Instagram et Threads. Le Board appelle désormais Meta à refondre en profondeur sa façon d'identifier, de signaler et d'étiqueter les contenus synthétiques sur l'ensemble de ses plateformes. L'enjeu est considérable : lors de conflits comme la guerre en Iran, des vidéos fabriquées peuvent circuler en quelques minutes auprès de centaines de millions d'utilisateurs, alimenter des narratifs faux, provoquer des réactions politiques ou attiser des tensions sur le terrain. Un simple label « généré par IA » apposé trop tard — ou pas du tout — ne suffit pas à endiguer la propagation. Pour les utilisateurs, cela signifie une exposition accrue à des images trompeuses présentées comme authentiques ; pour les plateformes, c'est une responsabilité légale et éthique croissante face aux régulateurs du monde entier. Meta fait face depuis plusieurs années à des critiques répétées sur l'efficacité de sa modération de contenu, mais la montée en puissance des outils de génération d'images et de vidéos par IA a brutalement accéléré le problème. L'Oversight Board, créé en 2020 pour donner une apparence d'indépendance aux décisions de modération de Meta, n'a qu'un pouvoir de recommandation — Meta n'est pas légalement tenu de suivre ses avis. Reste à voir si le groupe de Mark Zuckerberg donnera suite à ces injonctions, alors que l'Union européenne et d'autres juridictions renforcent leurs exigences en matière de transparence sur les contenus synthétiques.

KPMG a fabriqué de faux cas d'usage IA dans un rapport pour convaincre ses clients d'adopter l'IA

KPMG, l'un des quatre grands cabinets d'audit mondiaux, a publié un rapport destiné à convaincre ses clients d'adopter l'intelligence artificielle, mais plusieurs études de cas qu'il contenait étaient entièrement fabriquées. Le document citait notamment UBS, la banque d'investissement suisse, et le NHS, le système de santé public britannique, comme exemples de déploiements réussis d'IA en entreprise. C'est Edward Tian, PDG de GPTZero, spécialiste de la détection de textes générés par IA, qui a contribué à révéler ces falsifications. Depuis, KPMG a retiré le rapport de la circulation. L'affaire met en lumière un risque que Tian baptise "hallucinations secondaires" : des informations erronées produites par des cabinets de conseil réputés, qui se diffusent sans être questionnées grâce au prestige institutionnel de leur source. Contrairement aux erreurs d'un chatbot, facilement identifiables comme venant d'un outil IA, celles d'un rapport signé KPMG sont prises pour argent comptant par des dirigeants qui s'en servent pour justifier des investissements stratégiques, parfois chiffrés en millions d'euros. L'incident survient dans un contexte de course effrénée à l'adoption de l'IA, où les grands cabinets de conseil se disputent un rôle de guide stratégique auprès des directions d'entreprise. La pression commerciale et le recours croissant aux outils génératifs dans la production de contenus créent un terrain fertile pour ce type d'erreur, d'autant que les vérifications factuelles restent souvent insuffisantes. Cette affaire soulève une question de fond sur la responsabilité des intermédiaires qui profitent de l'engouement pour l'IA tout en alimentant ses dérives.

💬 Un chatbot qui hallucine, tu le corriges. Un rapport KPMG qui invente ses études de cas pour vendre de l'IA à des directions, c'est autre chose, parce que le logo fait office de validation et personne ne relit. Ce qui me choque, c'est pas que ça soit arrivé, c'est que des consultants qui savent très bien ce qu'ils font ont quand même signé.

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.

Le choc de voir son corps utilisé dans un deepfake pornographique

En 2023, Jennifer, psychothérapeute de 37 ans installée à New York, a passé sa nouvelle photo professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos d'adultes, tournées une décennie plus tôt, remontaient dans les résultats. Le programme a bien retrouvé certains de ses contenus, mais aussi quelque chose qu'elle n'avait jamais vu : une de ses vidéos de 2013, avec le corps qui était le sien, mais un visage étranger à la place du sien. L'outil l'avait identifiée parce que ses traits physiques restaient visibles sous le visage substitué, ses pommettes, son front, la forme de son menton. Ce phénomène s'inscrit dans la catégorie des "deepfakes sexuels", qui relèvent plus largement des images intimes non consenties (NCII). Le terme "deepfake" lui-même est apparu en novembre 2017, quand un utilisateur Reddit du même nom a mis en ligne des vidéos montrant les visages de célébrités comme Scarlett Johansson ou Gal Gadot collés sur des corps de performers adultes. Selon l'avocat Corey Silverstein, spécialiste du secteur, l'utilisation non consentie des corps de ces acteurs "arrive en permanence" dans ce type de contenu. Ce qui rend la situation particulièrement préoccupante, c'est que le débat public sur les deepfakes se concentre presque exclusivement sur les personnes dont le visage est utilisé sans autorisation, souvent des célébrités ou des particulières. La question du corps, elle, reste systématiquement ignorée. Pourtant, pour les créateurs de contenu adulte, les enjeux sont doubles : d'un côté, leur travail est piraté et détourné directement, de l'autre, il sert de données d'entraînement aux modèles d'IA générative qui apprennent à reproduire des corps, des mouvements, des performances sexuelles. Ces modèles alimentent à leur tour des applications de "nudification" en pleine prolifération, capables de générer des images réalistes sans avoir besoin de puiser directement dans du contenu identifiable. Le résultat : les performers voient leur gagne-pain menacé par des avatars IA formés sur leur propre travail, qui pourraient les concurrencer ou les remplacer. Les avancées récentes de l'IA compliquent encore davantage la situation en permettant de recréer intégralement l'apparence d'un performer sans son consentement, y compris dans des situations ou des actes qu'il n'a jamais accepté de tourner. Des doubles numériques peuvent ainsi être mis en scène dans des escroqueries ciblant les fans, ou associés à des pratiques que l'acteur refuse catégoriquement dans la réalité. Ces créateurs, déjà fragilisés par une société qui peine à reconnaître leurs droits et leur sécurité, se retrouvent dans une position encore plus vulnérable. Silverstein reçoit chaque jour des acteurs inquiets de voir leurs contenus exploités par l'IA, cherchant comment se protéger d'une menace que le droit peine encore à saisir.