ÉthiqueFrandroid3h

Une star ruinée par un deepfake : quand la justice croit un mensonge fabriqué par IA

Résumé IASource uniqueImpact UE

En Corée du Sud, l'un des acteurs les plus connus du pays a vu sa réputation et sa carrière anéanties à la suite d'une affaire judiciaire s'appuyant sur des preuves audio générées par intelligence artificielle. Des enregistrements sonores, entièrement fabriqués grâce à des outils de deepfake vocal, ont été présentés comme authentiques devant la justice, suffisamment convaincants pour emporter la conviction des magistrats. L'acteur, dont l'identité n'a pas été rendue publique dans l'extrait disponible, a subi un effondrement professionnel brutal, ses projets annulés et sa image publique détruite.

Cette affaire révèle une faille profonde dans les systèmes judiciaires face à la montée en puissance des contenus synthétiques : les tribunaux ne disposent pas toujours d'experts capables de distinguer une voix authentique d'une simulation générée par IA. Le préjudice causé va bien au-delà d'une simple diffamation classique, la technologie permet désormais de fabriquer des « preuves » crédibles, modifiant radicalement l'équilibre entre accusateurs et accusés.

La Corée du Sud est particulièrement exposée à ce phénomène : le pays a déjà connu plusieurs scandales liés aux deepfakes ciblant des personnalités publiques, notamment des femmes dans le milieu du divertissement. À l'échelle mondiale, les législateurs et les acteurs judiciaires peinent à rattraper la vitesse d'évolution des outils génératifs. Cette affaire pourrait accélérer les débats sur l'obligation de certification des preuves numériques et sur la responsabilité des plateformes qui hébergent ou distribuent ces outils de falsification.

Impact France/UE

Les législateurs européens, dans le cadre de l'application de l'AI Act, sont confrontés à l'urgence d'imposer des standards de certification des preuves numériques pour protéger les systèmes judiciaires contre les deepfakes vocaux.

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1The Verge AI

La modération des deepfakes de Meta jugée insuffisante par l'Oversight Board

L'Oversight Board de Meta, l'organe semi-indépendant chargé de superviser les pratiques de modération du groupe, a rendu un verdict sévère : les méthodes actuelles de Meta pour détecter et étiqueter les contenus générés par intelligence artificielle sont « ni suffisamment robustes ni suffisamment complètes » pour contenir la vitesse à laquelle la désinformation se propage en temps de conflit armé. Cette conclusion fait suite à une enquête sur une vidéo deepfake montrant de faux dommages à des bâtiments en Israël, diffusée l'année dernière sur Facebook, Instagram et Threads. Le Board appelle désormais Meta à refondre en profondeur sa façon d'identifier, de signaler et d'étiqueter les contenus synthétiques sur l'ensemble de ses plateformes. L'enjeu est considérable : lors de conflits comme la guerre en Iran, des vidéos fabriquées peuvent circuler en quelques minutes auprès de centaines de millions d'utilisateurs, alimenter des narratifs faux, provoquer des réactions politiques ou attiser des tensions sur le terrain. Un simple label « généré par IA » apposé trop tard — ou pas du tout — ne suffit pas à endiguer la propagation. Pour les utilisateurs, cela signifie une exposition accrue à des images trompeuses présentées comme authentiques ; pour les plateformes, c'est une responsabilité légale et éthique croissante face aux régulateurs du monde entier. Meta fait face depuis plusieurs années à des critiques répétées sur l'efficacité de sa modération de contenu, mais la montée en puissance des outils de génération d'images et de vidéos par IA a brutalement accéléré le problème. L'Oversight Board, créé en 2020 pour donner une apparence d'indépendance aux décisions de modération de Meta, n'a qu'un pouvoir de recommandation — Meta n'est pas légalement tenu de suivre ses avis. Reste à voir si le groupe de Mark Zuckerberg donnera suite à ces injonctions, alors que l'Union européenne et d'autres juridictions renforcent leurs exigences en matière de transparence sur les contenus synthétiques.

UELe DSA et l'AI Act imposent déjà des obligations de transparence sur les contenus synthétiques aux grandes plateformes en Europe, et ce verdict de l'Oversight Board accentue la pression réglementaire sur Meta pour améliorer le marquage des deepfakes auprès des régulateurs européens.

ÉthiqueActu

1 source

2MIT Technology Review

Le choc de voir son corps utilisé dans un deepfake pornographique

En 2023, Jennifer, psychothérapeute de 37 ans installée à New York, a passé sa nouvelle photo professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos d'adultes, tournées une décennie plus tôt, remontaient dans les résultats. Le programme a bien retrouvé certains de ses contenus, mais aussi quelque chose qu'elle n'avait jamais vu : une de ses vidéos de 2013, avec le corps qui était le sien, mais un visage étranger à la place du sien. L'outil l'avait identifiée parce que ses traits physiques restaient visibles sous le visage substitué, ses pommettes, son front, la forme de son menton. Ce phénomène s'inscrit dans la catégorie des "deepfakes sexuels", qui relèvent plus largement des images intimes non consenties (NCII). Le terme "deepfake" lui-même est apparu en novembre 2017, quand un utilisateur Reddit du même nom a mis en ligne des vidéos montrant les visages de célébrités comme Scarlett Johansson ou Gal Gadot collés sur des corps de performers adultes. Selon l'avocat Corey Silverstein, spécialiste du secteur, l'utilisation non consentie des corps de ces acteurs "arrive en permanence" dans ce type de contenu. Ce qui rend la situation particulièrement préoccupante, c'est que le débat public sur les deepfakes se concentre presque exclusivement sur les personnes dont le visage est utilisé sans autorisation, souvent des célébrités ou des particulières. La question du corps, elle, reste systématiquement ignorée. Pourtant, pour les créateurs de contenu adulte, les enjeux sont doubles : d'un côté, leur travail est piraté et détourné directement, de l'autre, il sert de données d'entraînement aux modèles d'IA générative qui apprennent à reproduire des corps, des mouvements, des performances sexuelles. Ces modèles alimentent à leur tour des applications de "nudification" en pleine prolifération, capables de générer des images réalistes sans avoir besoin de puiser directement dans du contenu identifiable. Le résultat : les performers voient leur gagne-pain menacé par des avatars IA formés sur leur propre travail, qui pourraient les concurrencer ou les remplacer. Les avancées récentes de l'IA compliquent encore davantage la situation en permettant de recréer intégralement l'apparence d'un performer sans son consentement, y compris dans des situations ou des actes qu'il n'a jamais accepté de tourner. Des doubles numériques peuvent ainsi être mis en scène dans des escroqueries ciblant les fans, ou associés à des pratiques que l'acteur refuse catégoriquement dans la réalité. Ces créateurs, déjà fragilisés par une société qui peine à reconnaître leurs droits et leur sécurité, se retrouvent dans une position encore plus vulnérable. Silverstein reçoit chaque jour des acteurs inquiets de voir leurs contenus exploités par l'IA, cherchant comment se protéger d'une menace que le droit peine encore à saisir.

UELe phénomène des deepfakes pornographiques non consentis touche également des victimes européennes, dans un contexte où l'AI Act et plusieurs législations nationales commencent à encadrer la création et la diffusion d'images intimes générées par IA.

ÉthiqueActu

1 source

3The Verge

Les célébrités pourront localiser et demander la suppression des deepfakes IA sur YouTube

YouTube étend son outil de détection des deepfakes générés par intelligence artificielle aux célébrités hollywoodiennes. La fonctionnalité, baptisée "likeness detection", analyse automatiquement les vidéos publiées sur la plateforme pour identifier les contenus synthétiques représentant des personnalités publiques inscrites au programme. Ces dernières peuvent ainsi surveiller les apparitions non autorisées de leur image et soumettre des demandes de retrait, évaluées au cas par cas selon la politique de confidentialité de YouTube, sans garantie de suppression systématique. Cet outil représente une avancée concrète dans la lutte contre les deepfakes non consentis, un phénomène en forte croissance depuis la démocratisation des générateurs vidéo par IA. Pour les personnalités publiques, la capacité de détecter et de contester automatiquement ces contenus réduit considérablement le délai entre la publication d'un faux et son signalement, limitant ainsi la propagation de désinformation ou de contenus compromettants. La démarche signale également que YouTube commence à prendre une responsabilité active sur ce type de contenu, plutôt que d'attendre des signalements manuels. YouTube avait commencé à tester cette fonctionnalité auprès des créateurs de contenu à l'automne 2024, avant de l'étendre aux politiciens et journalistes en mars 2026. L'inclusion des célébrités marque une troisième phase d'un déploiement progressif qui suit la pression réglementaire croissante, notamment aux États-Unis et en Europe, autour des contenus synthétiques non consentis. La question de la gouvernance des deepfakes implique désormais directement les grandes plateformes, qui doivent concilier liberté d'expression, protection de l'image et obligations légales émergentes.

UELa pression réglementaire européenne sur les contenus synthétiques non consentis a contribué à accélérer ce déploiement, et l'outil pourrait à terme bénéficier aux personnalités publiques européennes face aux deepfakes non consentis.

ÉthiqueActu

1 source

4Siècle Digital

Deepfakes : Meta épinglé pour ses failles dans la lutte contre les contenus générés par IA

Meta est critiqué pour ses insuffisances dans la détection et la modération des deepfakes et contenus générés par IA sur ses plateformes. Malgré les efforts des géants du web pour adapter leurs systèmes de modération face à la prolifération de fausses images et vidéos hyperréalistes, Meta peine encore à contenir efficacement ces contenus trompeurs. La précision croissante des IA génératives rend la lutte contre la désinformation visuelle particulièrement difficile sur les réseaux sociaux.

UELes défaillances de modération de Meta exposent les citoyens européens à une désinformation visuelle croissante, renforçant la pression sur les régulateurs de l'UE pour faire appliquer le DSA (Digital Services Act) et ses obligations de transparence sur les contenus générés par IA.

ÉthiqueActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour