La modération des deepfakes de Meta jugée insuffisante par l'Oversight Board

Une star ruinée par un deepfake : quand la justice croit un mensonge fabriqué par IA

En Corée du Sud, l'un des acteurs les plus connus du pays a vu sa réputation et sa carrière anéanties à la suite d'une affaire judiciaire s'appuyant sur des preuves audio générées par intelligence artificielle. Des enregistrements sonores, entièrement fabriqués grâce à des outils de deepfake vocal, ont été présentés comme authentiques devant la justice, suffisamment convaincants pour emporter la conviction des magistrats. L'acteur, dont l'identité n'a pas été rendue publique dans l'extrait disponible, a subi un effondrement professionnel brutal, ses projets annulés et sa image publique détruite. Cette affaire révèle une faille profonde dans les systèmes judiciaires face à la montée en puissance des contenus synthétiques : les tribunaux ne disposent pas toujours d'experts capables de distinguer une voix authentique d'une simulation générée par IA. Le préjudice causé va bien au-delà d'une simple diffamation classique, la technologie permet désormais de fabriquer des « preuves » crédibles, modifiant radicalement l'équilibre entre accusateurs et accusés. La Corée du Sud est particulièrement exposée à ce phénomène : le pays a déjà connu plusieurs scandales liés aux deepfakes ciblant des personnalités publiques, notamment des femmes dans le milieu du divertissement. À l'échelle mondiale, les législateurs et les acteurs judiciaires peinent à rattraper la vitesse d'évolution des outils génératifs. Cette affaire pourrait accélérer les débats sur l'obligation de certification des preuves numériques et sur la responsabilité des plateformes qui hébergent ou distribuent ces outils de falsification.

Muse Image est techniquement impressionnant, mais l'utilisation par Meta de photos Instagram soulève des questions

Meta's Superintelligence Labs a dévoilé Muse Image, son premier modèle de génération d'images, positionné comme une réponse directe à GPT Image 2 d'OpenAI. Comme son concurrent, l'outil fonctionne selon une logique d'agent plutôt que de simple générateur statique : il peut exécuter du code et effectuer des recherches web pour affiner et corriger ses propres résultats avant de livrer l'image finale. Parmi ses fonctionnalités, une option de mention par arobase permet aux utilisateurs de générer des images représentant d'autres personnes en s'appuyant sur leurs photos publiques Instagram, sans que ces personnes aient donné leur consentement explicite. Le système fonctionne selon un modèle d'opt-out plutôt que d'opt-in. Cette approche soulève d'importantes questions juridiques et éthiques. En Europe, un mécanisme reposant sur le retrait plutôt que sur l'accord préalable des personnes concernées entre potentiellement en conflit avec le RGPD, qui exige un consentement explicite pour l'utilisation de données personnelles comme des photos. L'AI Act européen, dont les dispositions se déploient progressivement, pourrait également s'appliquer à ce type d'usage impliquant l'image de tiers sans autorisation. Pour les utilisateurs d'Instagram, cela signifie que leurs photos publiques pourraient servir de base à des générations d'images sans qu'ils en soient informés ni qu'ils aient donné leur accord. Ce lancement illustre la course technologique intense entre Meta et OpenAI sur la génération d'images assistée par IA, où les capacités techniques progressent plus vite que les cadres réglementaires censés les encadrer. Meta devra probablement adapter son approche du consentement en Europe, où les autorités de protection des données surveillent de près les pratiques des grandes plateformes en matière d'exploitation des contenus utilisateurs à des fins d'entraînement ou de génération par IA.

💬 Muse Image techniquement, c'est costaud, Meta rattrape OpenAI plus vite que prévu. Mais le coup de l'opt-out sur les photos Instagram, c'est le genre de détail qui va coûter cher en Europe. Retiens ça : dès qu'un géant américain lance une feature IA avec opt-out par défaut sur des données perso, le RGPD arrive en embuscade, pas en option.

Deepfakes : Meta épinglé pour ses failles dans la lutte contre les contenus générés par IA

Meta est critiqué pour ses insuffisances dans la détection et la modération des deepfakes et contenus générés par IA sur ses plateformes. Malgré les efforts des géants du web pour adapter leurs systèmes de modération face à la prolifération de fausses images et vidéos hyperréalistes, Meta peine encore à contenir efficacement ces contenus trompeurs. La précision croissante des IA génératives rend la lutte contre la désinformation visuelle particulièrement difficile sur les réseaux sociaux.

Les célébrités pourront localiser et demander la suppression des deepfakes IA sur YouTube

YouTube étend son outil de détection des deepfakes générés par intelligence artificielle aux célébrités hollywoodiennes. La fonctionnalité, baptisée "likeness detection", analyse automatiquement les vidéos publiées sur la plateforme pour identifier les contenus synthétiques représentant des personnalités publiques inscrites au programme. Ces dernières peuvent ainsi surveiller les apparitions non autorisées de leur image et soumettre des demandes de retrait, évaluées au cas par cas selon la politique de confidentialité de YouTube, sans garantie de suppression systématique. Cet outil représente une avancée concrète dans la lutte contre les deepfakes non consentis, un phénomène en forte croissance depuis la démocratisation des générateurs vidéo par IA. Pour les personnalités publiques, la capacité de détecter et de contester automatiquement ces contenus réduit considérablement le délai entre la publication d'un faux et son signalement, limitant ainsi la propagation de désinformation ou de contenus compromettants. La démarche signale également que YouTube commence à prendre une responsabilité active sur ce type de contenu, plutôt que d'attendre des signalements manuels. YouTube avait commencé à tester cette fonctionnalité auprès des créateurs de contenu à l'automne 2024, avant de l'étendre aux politiciens et journalistes en mars 2026. L'inclusion des célébrités marque une troisième phase d'un déploiement progressif qui suit la pression réglementaire croissante, notamment aux États-Unis et en Europe, autour des contenus synthétiques non consentis. La question de la gouvernance des deepfakes implique désormais directement les grandes plateformes, qui doivent concilier liberté d'expression, protection de l'image et obligations légales émergentes.