Google rend la détection des deepfakes plus accessible au grand public

YouTube ouvre son outil de détection des deepfakes à tous les créateurs adultes

YouTube a annoncé l'ouverture de son outil de détection de deepfakes, baptisé Likeness Detection, à l'ensemble des créateurs âgés de 18 ans et plus. Auparavant réservé aux membres du Programme Partenaire YouTube, ce système permet désormais à tous les créateurs adultes de détecter les manipulations de visage générées par intelligence artificielle dans les vidéos d'autres utilisateurs, et de soumettre des demandes de suppression directement depuis YouTube Studio. L'enjeu est considérable : la prolifération des outils de face-swap IA rend de plus en plus facile la création de vidéos réalistes mettant en scène des personnes sans leur consentement. En élargissant l'accès à cet outil, YouTube offre une protection concrète aux créateurs de taille moyenne ou aux chaînes indépendantes, qui n'avaient jusqu'ici aucun mécanisme automatisé pour signaler ce type d'abus. Pour les victimes, c'est un levier direct pour agir sans passer par des procédures longues et opaques. Cette décision s'inscrit dans un mouvement plus large de l'industrie tech face à la montée des contenus synthétiques. Les plateformes sont sous pression croissante des législateurs et des associations pour mieux encadrer l'usage de l'IA générative, notamment dans les cas d'usurpation d'identité et de pornographie non consentie. YouTube rejoint ainsi d'autres acteurs qui cherchent à se doter d'outils de modération proactifs, avant que des régulations plus contraignantes ne les y obligent.

💬 C'est le genre de truc qu'on attendait depuis deux ans. Les créateurs indépendants se faisaient deepfaker sans aucun recours automatisé, et YouTube vient enfin de leur ouvrir un vrai outil de signalement direct depuis YouTube Studio. Ça sent le coup de pression réglementaire, mais la protection est réelle.

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

En 2025, la base de données nationale des vulnérabilités américaine (NVD) a enregistré plus de 48 000 nouvelles failles de sécurité référencées (CVE), un volume rendu possible en grande partie par la prolifération des outils automatisés de détection. Face à cette explosion, Amazon Web Services a développé RuleForge, un système d'intelligence artificielle agentique conçu pour générer automatiquement des règles de détection à partir d'exemples de code d'exploitation de vulnérabilités. Déployé en production chez AWS, RuleForge affiche une productivité supérieure de 336 % à la création manuelle, tout en conservant le niveau de précision exigé pour des systèmes de sécurité industriels. Les règles produites sont au format JSON et alimentent directement MadPot, le système mondial de "honeypot" d'Amazon qui capture le comportement des attaquants, ainsi que Sonaris, le moteur interne de détection d'exploits suspects. Avant RuleForge, transformer une CVE en règle de détection opérationnelle était un processus entièrement manuel : un analyste téléchargeait le code de preuve de concept, étudiait le mécanisme d'attaque, rédigeait la logique de détection, la validait par itérations successives contre les journaux de trafic, puis soumettait le tout à une revue par un second ingénieur avant déploiement. Ce cycle, rigoureux mais lent, obligeait les équipes à prioriser strictement les vulnérabilités traitées, laissant potentiellement des failles critiques sans couverture. RuleForge comprime ce délai de façon drastique : le système ingère automatiquement le code d'exploitation public, attribue un score de priorité via une analyse de contenu croisée avec des sources de threat intelligence, puis génère en parallèle plusieurs règles candidates via un agent tournant sur AWS Fargate avec Amazon Bedrock. Chaque candidate est évaluée non pas par le modèle qui l'a produite, mais par un agent "juge" distinct, évitant ainsi l'auto-validation biaisée. Les humains restent dans la boucle pour l'approbation finale avant mise en production. Cette architecture reflète une tendance profonde dans la sécurité offensive et défensive : l'automatisation par IA ne remplace pas les experts, elle leur permet de travailler à une échelle autrement inaccessible. AWS anticipe une croissance continue du nombre de CVE à haute sévérité publiées, portée par les mêmes outils d'IA qui accélèrent la découverte de failles côté attaquants. RuleForge représente la réponse symétrique côté défense, en industrialisant la réactivité. L'approche modulaire, avec des agents spécialisés pour la génération, l'évaluation et le raffinement, plutôt qu'un seul modèle monolithique, s'inscrit dans la lignée des architectures multi-agents qui émergent comme standard pour les tâches complexes nécessitant fiabilité et auditabilité. D'autres grands acteurs du cloud font face aux mêmes défis, et la publication par Amazon des détails de RuleForge suggère une volonté de positionner cette approche comme référence sectorielle.

Scam.ai annonce un partenariat avec Qualcomm et lance Halo, son modèle de détection de deepfakes, au Computex 2026

La start-up Scam.ai a annoncé le 29 juin 2026, lors du Computex de Taipei, un partenariat avec Qualcomm et le lancement de Halo, un modèle de détection de deepfakes fonctionnant directement sur l'appareil de l'utilisateur pour les appels vidéo en direct. Présentée sur le stand de Qualcomm dans le cadre de la piste "Agentic AI" du salon, cette technologie analyse les flux vidéo en temps réel pendant n'importe quelle session de visioconférence, sans envoyer aucune image vers un serveur distant. Halo fonctionne en arrière-plan, de manière totalement passive, sans modifier les habitudes de travail existantes, et est optimisé pour les ordinateurs équipés de puces Qualcomm. Le partenariat donne à Scam.ai accès aux ressources et au support d'optimisation de l'écosystème matériel de Qualcomm, ce qui permet à Halo de tourner localement sans dépendre d'une infrastructure cloud. Le produit est disponible depuis juin 2026, avec des détails sur l'intégration enterprise et de nouveaux partenariats à venir dans les prochains mois. L'enjeu est considérable : les tentatives de fraude par deepfake ont progressé de plus de 2 000 % en trois ans, et seulement 31 % des responsables RH déclarent se sentir capables de les détecter. Halo cible en priorité deux profils exposés : les équipes RH et de recrutement qui conduisent des entretiens vidéo, et les dirigeants à haute valeur comme les PDG, directeurs financiers et investisseurs en capital-risque, dont les appels à fort enjeu constituent des cibles privilégiées pour l'usurpation d'identité. La fraude à l'identité lors d'entretiens vidéo est devenue un risque documenté et croissant pour les entreprises, et les solutions de détection existantes interviennent souvent après coup, là où Halo agit à la source, pendant l'appel lui-même. Dennis Ng, cofondateur de Scam.ai, souligne que les mesures de sécurité traditionnelles deviennent inefficaces dès qu'un humain est trompé, ce qui justifie une détection au moment précis de l'interaction. La montée des deepfakes en entreprise s'inscrit dans un contexte plus large d'explosion des outils de génération vidéo par IA, qui ont rendu la falsification de visages en temps réel accessible au plus grand nombre. Face à cette menace, plusieurs acteurs technologiques cherchent à développer des contre-mesures, mais la plupart des approches reposent encore sur une analyse post-call dans le cloud, soulevant des questions de confidentialité des données. L'approche on-device de Scam.ai répond directement à cette préoccupation, en gardant les images vidéo sur la machine de l'utilisateur. Le choix de Qualcomm comme partenaire positionne la solution sur les PC Copilot+ et les appareils Windows ARM, un segment en pleine croissance. La prochaine étape pour Scam.ai sera d'annoncer des intégrations avec les grandes plateformes de visioconférence, ce qui déterminera sa capacité à s'imposer comme standard de sécurité dans les environnements professionnels.

La technologie de tatouage numérique SynthID de Google adoptée par OpenAI, Nvidia et d'autres

Google a annoncé que sa technologie de marquage SynthID, développée pour identifier les contenus générés par intelligence artificielle, est désormais adoptée par des acteurs majeurs du secteur, dont OpenAI et Nvidia. Lancée il y a trois ans, SynthID a déjà permis de labelliser 100 milliards d'images et de vidéos, ainsi que l'équivalent de 60 000 ans d'audio. Ce déploiement massif s'accélère avec l'ouverture de la technologie à des partenaires extérieurs à Google. Parallèlement, Google renforce son engagement envers le standard C2PA, une norme qui intègre des métadonnées dans les fichiers pour décrire leur mode de création. Les smartphones Pixel 10 sont les premiers à embarquer C2PA nativement : chaque photo prise avec l'appareil contient des informations sur son traitement, et les images comportant des éléments génératifs sont automatiquement taguées. Cette fonctionnalité sera étendue aux vidéos des Pixel 8, 9 et 10 dans les prochaines semaines. L'enjeu est considérable à une époque où les deepfakes et les contenus synthétiques atteignent un niveau de réalisme qui rend leur détection impossible à l'œil nu. Là où l'on repérait autrefois facilement une IA aux doigts en trop sur une image, les générateurs actuels produisent des visuels indiscernables du réel. SynthID répond à ce problème en inscrivant un filigrane numérique imperceptible directement dans le contenu, sans dégrader sa qualité. L'adoption par OpenAI et Nvidia élargit significativement la portée de cette solution, couvrant potentiellement une part croissante des contenus IA produits à l'échelle mondiale. Google intègre également ces capacités dans ses propres produits : Gemini sera bientôt capable d'analyser la provenance d'un fichier en s'appuyant sur les métadonnées C2PA, et cette même fonctionnalité arrivera dans Chrome et Google Search dans quelques mois. Cette stratégie à deux niveaux, SynthID pour le marquage invisible, C2PA pour les métadonnées explicites, positionne Google comme un acteur central dans la bataille pour la traçabilité des contenus à l'ère de l'IA générative, un sujet qui mobilise régulateurs, plateformes et sociétés civiles autour du monde.