Des bots de dénudification, des deepfakes et des archives automatisées : comment l'IA alimente un écosystème d'abus monétisé sur Telegram

Présentation : deepfakes, désinformation et contenus IA envahissent Internet

Shuman Ghosemajumder, expert en cybersécurité et ancien responsable de la lutte contre la fraude publicitaire chez Google, a présenté une analyse détaillée de la façon dont l'intelligence artificielle générative s'est muée en infrastructure industrielle de désinformation et de fraude. Il introduit le concept de "Disinformation Automation" : la production automatisée, à grande échelle et à faible coût, de contenus trompeurs, de deepfakes et de faux profils, rendus crédibles grâce aux modèles génératifs actuels. L'un des points centraux de sa présentation est la faillite des CAPTCHA comme rempart contre les bots. Ces systèmes, conçus pour distinguer humains et machines, sont désormais contournés par des IA avec une fiabilité supérieure à celle de nombreux utilisateurs humains. Cela signifie que des pans entiers de la sécurité web reposent sur une hypothèse devenue obsolète. Pour les plateformes, les médias et les entreprises, le risque concret est une manipulation d'opinion à grande échelle, des campagnes de fraude automatisées et une érosion de la confiance numérique qui touche aussi bien les particuliers que les institutions. Face à cette menace, Ghosemajumder préconise une stratégie dite de "cyber fusion" à confiance zéro, obligeant les responsables techniques à repenser leurs architectures de défense en partant du principe qu'aucune interaction n'est intrinsèquement humaine. Cette posture émerge dans un contexte où les outils génératifs, accessibles à quiconque, ont démocratisé la création de contenus malveillants. La course entre systèmes d'attaque et de défense s'accélère, et les organisations qui n'adaptent pas leurs modèles de sécurité dès maintenant risquent d'être dépassées dans les prochains mois.

Comment se préparer à un incident de système IA et y répondre

Une majorité d'organisations seraient incapables de gérer correctement une crise liée à leurs systèmes d'IA, selon un rapport publié par l'ISACA, association internationale spécialisée dans la gouvernance des systèmes d'information. L'étude révèle que 59 % des professionnels interrogés ne savent pas combien de temps il faudrait à leur organisation pour interrompre un système d'IA en cas d'incident de sécurité. Seuls 21 % affirment pouvoir intervenir en moins de trente minutes. Par ailleurs, 42 % seulement se disent capables d'analyser et d'expliquer un incident grave, et 20 % avouent ignorer qui serait responsable si un système d'IA causait des dommages. À peine 38 % désignent un membre du conseil d'administration ou un dirigeant exécutif comme ultimement responsable. Ces chiffres révèlent une faille structurelle aux conséquences potentiellement graves. Un système d'IA compromis ou défaillant qui continue de fonctionner sans contrôle peut causer des dommages irréversibles, qu'ils soient opérationnels, financiers ou réputationnels. L'incapacité à expliquer un incident aux régulateurs expose également les entreprises à des sanctions légales et à une perte de confiance publique. Ali Sarrafi, PDG de Kovant, une plateforme d'entreprise autonome, souligne que le problème n'est pas le rythme d'adoption de l'IA, mais la manière dont elle est gérée : les systèmes sont intégrés dans des flux de travail critiques sans la couche de gouvernance nécessaire pour superviser leurs actions, identifier les responsables et les stopper instantanément si nécessaire. Plus d'un tiers des organisations n'exigent même pas que leurs employés signalent où et quand ils utilisent l'IA dans leurs livrables, ce qui multiplie les angles morts. La gouvernance de l'IA reste un chantier largement inachevé dans la plupart des secteurs, malgré un durcissement réglementaire qui engage davantage la responsabilité des dirigeants. Si 40 % des répondants indiquent qu'un humain valide la quasi-totalité des actions d'IA avant déploiement et 26 % évaluent les résultats a posteriori, cette vigilance individuelle reste insuffisante en l'absence d'une infrastructure de contrôle solide. Sarrafi plaide pour que les systèmes d'IA soient traités comme des "employés numériques", dotés d'une propriété claire, de chemins d'escalade définis et d'un mécanisme de suspension immédiate en cas de dépassement de seuils de risque. La gouvernance ne peut pas être une réflexion après coup : elle doit être intégrée dès la conception, à chaque niveau de l'architecture. Les organisations qui parviendront à mettre cela en place ne se contenteront pas de réduire les risques, elles seront aussi les mieux positionnées pour déployer l'IA à grande échelle en toute confiance.

Deepfakes utilisés comme armes

Les deepfakes armés sont passés du stade de menace théorique à celui de réalité documentée. Des images sexuellement explicites aux vidéos de propagande politique, ces contenus générés par intelligence artificielle, vidéos, images ou enregistrements audio falsifiés, prolifèrent à une vitesse inédite. Une étude de 2023 révèle que 98 % des deepfakes en circulation sont pornographiques, et 99 % mettent en scène des femmes. Depuis le lancement de la fonction "édition d'image" de Grok par Elon Musk fin 2024, des millions d'images sexualisées ont été produites via ce chatbot, dont un grand nombre impliquant des enfants et des femmes, selon un rapport, 81 % des images générées par Grok représentaient des femmes. La réponse initiale de xAI s'est limitée à restreindre la fonctionnalité aux abonnés payants, avant de bloquer les contenus à caractère nu dans les juridictions où cela est illégal. Sur le plan politique, le procureur général du Texas Ken Paxton a diffusé en janvier 2026 une vidéo truquée montrant son adversaire républicain, le sénateur John Cornyn, dansant avec la représentante démocrate Jasmine Crockett, une scène qui n'a jamais eu lieu, sans que la publicité ne le mentionne clairement. L'impact de ces faux contenus dépasse largement le simple scandale médiatique. Ils ont déjà été utilisés pour inciter à la violence, tenter d'influencer des scrutins et saper la confiance dans les institutions. Les effets sont particulièrement dévastateurs pour les femmes et les groupes marginalisés, qui constituent les cibles disproportionnées de ces attaques. Les experts alertent sur un effet de fond plus insidieux : l'érosion progressive de l'esprit critique et de la confiance mutuelle au sein des sociétés démocratiques. Lorsque l'administration Trump partage des images générées par IA, comme ce portrait d'une avocate de Minneapolis dont la peau a été artificiellement assombrie et l'expression transformée en grimace de pleurs, diffusé par la Maison-Blanche fin janvier, la frontière entre communication politique et manipulation devient dangereusement floue. Les solutions envisagées peinent à répondre à l'ampleur du défi. Les garde-fous techniques peuvent être contournés, notamment via des modèles open source dépourvus de restrictions. Encourager les individus à mieux protéger leurs données personnelles ou à appliquer des filigranes à leurs photos relève de l'utopie comportementale. La voie législative progresse, Trump a signé une loi criminalisant les deepfakes pornographiques, mais son administration continue de diffuser d'autres formes de contenus manipulés, rendant l'application de la loi incohérente. La situation risque de s'aggraver rapidement : les élections de mi-mandat américaines de 2026 approchent dans un contexte où les agences fédérales chargées de l'intégrité électorale ont été affaiblies, tout comme les organisations indépendantes de fact-checking et de lutte contre la désinformation.

L'autorisation des agents est défaillante, et la transmission de l'authentification aggrave le problème

Anthony Grieco, vice-président senior et directeur de la sécurité de Cisco, l'a affirmé sans détour lors de la conférence RSAC 2026 : les incidents impliquant des agents IA non autorisés touchent régulièrement les clients de l'entreprise. Le problème qu'il décrit suit un schéma précis et récurrent, l'authentification réussit, l'identité de l'agent est confirmée, et pourtant l'agent accède à des données auxquelles il n'avait pas le droit de toucher, ou exécute des actions que personne n'avait autorisées à ce niveau de granularité. Ce n'est pas un problème d'identité, c'est un problème d'autorisation. Le rapport "State of AI Security 2026" de Cisco illustre l'ampleur du défi : 83 % des organisations prévoient de déployer des capacités agentiques, mais seulement 29 % se sentent prêtes à les sécuriser. À RSAC 2026, cinq éditeurs ont présenté des cadres d'identité pour agents, dont Cisco avec son Duo IAM et ses contrôles MCP gateway. Aucun ne comble l'ensemble des lacunes identifiées. Le problème central est structurel. Comme l'a formulé Grieco : "Cet agent est un agent financier, mais même en tant qu'agent financier, il ne devrait pas accéder à toutes les données financières, seulement aux notes de frais d'une période précise." Kayne McGladrey, membre senior de l'IEEE, a confirmé que les organisations reproduisent par défaut les profils de droits des utilisateurs humains pour leurs agents, ce qui génère une inflation des permissions dès le premier jour. Carter Rees, VP de l'IA chez Reputation, a identifié la cause structurelle : le plan d'autorisation plat d'un LLM ne respecte pas les permissions par utilisateur. L'agent n'a pas besoin d'escalader ses privilèges, il les possède déjà. À cela s'ajoute un problème de visibilité : selon Elia Zaitsev, directeur technique de CrowdStrike, dans la plupart des configurations de journalisation par défaut, l'activité d'un agent est indiscernable de celle d'un humain, rendant toute détection d'anomalie très difficile. Ce constat dépasse largement les observations d'un seul éditeur. Trois organismes de standardisation indépendants ont convergé vers le même diagnostic début 2026. Le NIST a publié en février un document appelant explicitement à des projets pilotes sur l'application des standards d'identité aux agents autonomes. L'OWASP a publié en décembre 2025 son "Top 10 for Agentic Applications", identifiant l'abus d'outils par sur-provisionnement de droits et la délégation non sécurisée comme des risques de premier rang. La Cloud Security Alliance a également lancé des travaux sur le sujet. Avec des entreprises qui envisagent jusqu'à 500 agents par employé selon Grieco, la question de l'autorisation granulaire, savoir précisément ce qu'un agent peut faire, sur quelles données, à quel moment, est en passe de devenir l'un des défis sécuritaires les plus urgents de l'entreprise moderne.

💬 L'authentification, ça va. C'est l'autorisation le problème : les équipes copient par défaut les droits des humains sur leurs agents, chaque agent se retrouve sur-provisionné dès le départ, et dans les logs son activité est indiscernable d'un humain, donc tu détectes rien. 83 % des orgs veulent déployer des agents agentiques, 29 % se sentent prêtes à les sécuriser, et ça va piquer.