Google annonce que 180 milliards d'images et de vidéos portent désormais un filigrane SynthID, et ouvre son détecteur au public
Google ouvre au public son détecteur SynthID. N'importe qui peut désormais vérifier si une image, une vidéo ou un fichier audio a été produit par les IA de Google ou par celles de partenaires comme OpenAI et Nvidia. Selon le groupe, plus de 180 milliards de contenus portent déjà ce filigrane invisible. L'outil a toutefois une limite nette : il ne reconnaît que les contenus marqués avec SynthID. Il ne permet pas de savoir si un média a été généré par une IA en général.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette limite compte pour les journalistes, les plateformes et les internautes qui veulent contrôler l'origine d'un contenu. Un résultat positif apporte une preuve solide qu'un média est issu d'une IA participante. Un résultat négatif ne prouve en revanche rien. Le contenu peut venir d'un modèle qui n'intègre pas SynthID, d'un outil open source ou d'un générateur qui n'a pas adhéré au dispositif. Le détecteur est donc un outil de vérification partiel, et non un test universel d'authenticité.
SynthID a été développé par Google DeepMind. Le principe est d'insérer dans les contenus générés un signal imperceptible, que l'on peut retrouver ensuite. L'adhésion de concurrents comme OpenAI et Nvidia suggère un début de convergence autour d'un mécanisme commun, au moment où les deepfakes et la désinformation poussent les régulateurs et le public à réclamer plus de transparence. La suite dépendra de l'arrivée d'autres fabricants de modèles dans le dispositif et de la robustesse du filigrane face aux tentatives de suppression.
Le détecteur public aide journalistes et plateformes européens à vérifier l'origine des contenus, dans un contexte de transparence exigée par l'AI Act sur les contenus générés.