Des deepfakes de Taylor Swift diffusent des arnaques sur TikTok
Des vidéos générées par intelligence artificielle représentant des célébrités comme Taylor Swift et Rihanna circulent sur TikTok pour promouvoir des services frauduleux, selon un rapport de la société d'authentification Copyleaks. Ces publicités mettent en scène les stars dans des contextes simulés - tapis rouges, podcasts, émissions de télévision - en manipulant des images réelles à l'aide de l'IA. Les arnaques vantent des programmes de récompenses promettant aux utilisateurs de gagner de l'argent en regardant des vidéos TikTok et en laissant des commentaires. Certaines reprennent même la charte graphique officielle de TikTok avant de rediriger les utilisateurs vers des plateformes tierces qui collectent leurs informations personnelles.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Également couvert par Wired AI.
Ces escroqueries exposent les internautes à deux risques majeurs : la perte financière et le vol de données personnelles. En exploitant la notoriété de stars mondiales pour crédibiliser leurs messages, les fraudeurs contournent la méfiance naturelle des utilisateurs. L'enjeu dépasse la simple arnaque individuelle : la prolifération de ces deepfakes érode la confiance dans les contenus vidéo en ligne et fragilise la crédibilité des plateformes comme TikTok, qui peinent à détecter automatiquement ces contenus manipulés avant qu'ils n'atteignent des millions de vues.
Ce phénomène illustre une tendance croissante d'utilisation abusive des outils de génération vidéo par IA. La facilité avec laquelle des avatars réalistes de célébrités peuvent désormais être créés pose une question urgente de régulation : ni les plateformes, ni le cadre légal actuel ne disposent de réponses suffisantes pour protéger l'image des personnes et les consommateurs contre ces dérives. TikTok, qui compte plus d'un milliard d'utilisateurs dans le monde, se retrouve en première ligne d'une bataille technologique et juridique qui ne fait que commencer.
La prolifération de deepfakes frauduleux sur TikTok concerne directement l'UE, où le DSA et l'AI Act imposent aux plateformes des obligations de détection et de retrait des contenus synthétiques illicites.