Des deepfakes de Taylor Swift diffusent des arnaques sur TikTok

Deepfakes utilisés comme armes

Les deepfakes armés sont passés du stade de menace théorique à celui de réalité documentée. Des images sexuellement explicites aux vidéos de propagande politique, ces contenus générés par intelligence artificielle, vidéos, images ou enregistrements audio falsifiés, prolifèrent à une vitesse inédite. Une étude de 2023 révèle que 98 % des deepfakes en circulation sont pornographiques, et 99 % mettent en scène des femmes. Depuis le lancement de la fonction "édition d'image" de Grok par Elon Musk fin 2024, des millions d'images sexualisées ont été produites via ce chatbot, dont un grand nombre impliquant des enfants et des femmes, selon un rapport, 81 % des images générées par Grok représentaient des femmes. La réponse initiale de xAI s'est limitée à restreindre la fonctionnalité aux abonnés payants, avant de bloquer les contenus à caractère nu dans les juridictions où cela est illégal. Sur le plan politique, le procureur général du Texas Ken Paxton a diffusé en janvier 2026 une vidéo truquée montrant son adversaire républicain, le sénateur John Cornyn, dansant avec la représentante démocrate Jasmine Crockett, une scène qui n'a jamais eu lieu, sans que la publicité ne le mentionne clairement. L'impact de ces faux contenus dépasse largement le simple scandale médiatique. Ils ont déjà été utilisés pour inciter à la violence, tenter d'influencer des scrutins et saper la confiance dans les institutions. Les effets sont particulièrement dévastateurs pour les femmes et les groupes marginalisés, qui constituent les cibles disproportionnées de ces attaques. Les experts alertent sur un effet de fond plus insidieux : l'érosion progressive de l'esprit critique et de la confiance mutuelle au sein des sociétés démocratiques. Lorsque l'administration Trump partage des images générées par IA, comme ce portrait d'une avocate de Minneapolis dont la peau a été artificiellement assombrie et l'expression transformée en grimace de pleurs, diffusé par la Maison-Blanche fin janvier, la frontière entre communication politique et manipulation devient dangereusement floue. Les solutions envisagées peinent à répondre à l'ampleur du défi. Les garde-fous techniques peuvent être contournés, notamment via des modèles open source dépourvus de restrictions. Encourager les individus à mieux protéger leurs données personnelles ou à appliquer des filigranes à leurs photos relève de l'utopie comportementale. La voie législative progresse, Trump a signé une loi criminalisant les deepfakes pornographiques, mais son administration continue de diffuser d'autres formes de contenus manipulés, rendant l'application de la loi incohérente. La situation risque de s'aggraver rapidement : les élections de mi-mandat américaines de 2026 approchent dans un contexte où les agences fédérales chargées de l'intégrité électorale ont été affaiblies, tout comme les organisations indépendantes de fact-checking et de lutte contre la désinformation.

Des bots de dénudification, des deepfakes et des archives automatisées : comment l'IA alimente un écosystème d'abus monétisé sur Telegram

Une analyse de 2,8 millions de messages Telegram en Italie et en Espagne révèle comment les outils d'intelligence artificielle alimentent un écosystème monétisé reposant sur la production et la diffusion massive d'images intimes non consenties. Des bots de "nudification" automatisée, des deepfakes et des archives organisées permettent à des réseaux de générer des contenus pornographiques à partir de photos anodines de femmes réelles, souvent sans qu'elles en sachent rien. Ces services sont commercialisés directement sur Telegram, avec des systèmes d'abonnement et de paiement intégrés. L'impact est considérable : des milliers de victimes voient leur image détournée et diffusée à grande échelle, avec des conséquences psychologiques, professionnelles et sociales graves. La monétisation de ces contenus crée une incitation économique durable qui rend la lutte contre ce phénomène particulièrement complexe. La facilité d'accès aux outils et l'anonymat relatif de Telegram transforment ce qui relevait autrefois d'actes isolés en une industrie structurée de l'abus sexuel en ligne. Ce phénomène s'inscrit dans une tendance plus large d'utilisation malveillante des technologies génératives, dont la démocratisation depuis 2022-2023 a drastiquement abaissé le niveau technique requis pour produire des deepfakes réalistes. Les législateurs italiens et espagnols, comme d'autres pays européens, sont sous pression pour criminaliser explicitement ces pratiques. L'Union européenne, à travers l'AI Act et la directive sur la violence à l'égard des femmes adoptée en 2024, tente d'apporter un cadre légal, mais l'application reste un défi majeur face à des plateformes opérant souvent hors juridiction.

Arnaques dopées à l'IA

Depuis le lancement de ChatGPT fin 2022, les cybercriminels ont massivement adopté l'intelligence artificielle pour amplifier leurs attaques. Aujourd'hui, ils utilisent les grands modèles de langage pour rédiger des courriels de phishing convaincants, générer des deepfakes hyperréalistes, modifier des logiciels malveillants afin de les rendre plus difficiles à détecter, automatiser la recherche de failles dans les réseaux, et analyser des volumes massifs de données volées pour en extraire les informations les plus précieuses. Interpol a récemment alerté sur l'essor des centres d'escroquerie en Asie du Sud-Est, qui recourent à des outils d'IA bon marché pour cibler davantage de victimes potentielles et changer rapidement de localisation. Les Émirats arabes unis ont de leur côté déclaré avoir déjoué une série d'attaques soutenues par l'IA visant leurs secteurs stratégiques. Fait particulièrement préoccupant : Anthropic a annoncé ce mois-ci que Mythos, un modèle qu'elle développe et teste actuellement, avait identifié des milliers de vulnérabilités critiques dans l'ensemble des principaux systèmes d'exploitation et navigateurs web. Anthropic affirme que toutes ont été corrigées, mais retarde la mise sur le marché du modèle en raison de ses capacités jugées trop dangereuses, et a constitué un consortium baptisé Project Glasswing pour tenter de les orienter vers des usages défensifs. L'impact le plus immédiat se mesure à l'échelle et à la vitesse des attaques. L'IA abaisse considérablement le seuil d'entrée pour des attaquants peu qualifiés, en leur fournissant des outils toujours plus performants, moins coûteux et plus rapides à déployer. Les attaques de masse, même peu sophistiquées, peuvent produire des effets dévastateurs dès lors qu'elles sont diffusées à une échelle suffisante : il suffit qu'une cible soit vulnérable ou qu'un destinataire soit pris au dépourvu au mauvais moment. De nombreuses organisations peinent déjà à absorber le volume actuel des cybermenaces, et la situation devrait s'aggraver à mesure que les outils d'IA générative accessibles au grand public continuent de progresser. Ce bras de fer technologique ne se joue toutefois pas à sens unique. L'IA est également mobilisée pour la défense. Microsoft traite chaque jour plus de 100 000 milliards de signaux signalés comme potentiellement malveillants par ses systèmes d'IA, et affirme avoir bloqué entre avril 2024 et avril 2025 l'équivalent de 4 milliards de dollars de fraudes et d'arnaques, dont une part probablement facilitée par des contenus générés par IA. Les chercheurs en cybersécurité estiment que les attaques les moins élaborées peuvent encore être neutralisées par des mesures de base, notamment la mise à jour régulière des logiciels et le respect des protocoles de sécurité réseau. Face à des attaques plus ciblées et plus sophistiquées, la réponse reste bien moins certaine, et la même technologie qui les rend possibles pourrait s'avérer notre meilleure ligne de défense dans les années à venir.

YouTube ouvre son outil de détection des deepfakes à tous les créateurs adultes

YouTube a annoncé l'ouverture de son outil de détection de deepfakes, baptisé Likeness Detection, à l'ensemble des créateurs âgés de 18 ans et plus. Auparavant réservé aux membres du Programme Partenaire YouTube, ce système permet désormais à tous les créateurs adultes de détecter les manipulations de visage générées par intelligence artificielle dans les vidéos d'autres utilisateurs, et de soumettre des demandes de suppression directement depuis YouTube Studio. L'enjeu est considérable : la prolifération des outils de face-swap IA rend de plus en plus facile la création de vidéos réalistes mettant en scène des personnes sans leur consentement. En élargissant l'accès à cet outil, YouTube offre une protection concrète aux créateurs de taille moyenne ou aux chaînes indépendantes, qui n'avaient jusqu'ici aucun mécanisme automatisé pour signaler ce type d'abus. Pour les victimes, c'est un levier direct pour agir sans passer par des procédures longues et opaques. Cette décision s'inscrit dans un mouvement plus large de l'industrie tech face à la montée des contenus synthétiques. Les plateformes sont sous pression croissante des législateurs et des associations pour mieux encadrer l'usage de l'IA générative, notamment dans les cas d'usurpation d'identité et de pornographie non consentie. YouTube rejoint ainsi d'autres acteurs qui cherchent à se doter d'outils de modération proactifs, avant que des régulations plus contraignantes ne les y obligent.

💬 C'est le genre de truc qu'on attendait depuis deux ans. Les créateurs indépendants se faisaient deepfaker sans aucun recours automatisé, et YouTube vient enfin de leur ouvrir un vrai outil de signalement direct depuis YouTube Studio. Ça sent le coup de pression réglementaire, mais la protection est réelle.