Google déploie une version améliorée de son détecteur de contenus IA SynthID, désormais disponible dans le monde entier
Google vient de lancer un détecteur SynthID amélioré, accessible à tous sur un site dédié, SynthID.com. Chaque contenu généré par les modèles Gemini porte un marquage invisible SynthID, ce qui rend très difficile de faire passer ces contenus pour authentiques. Ce signal est encodé dans les pixels des images et des vidéos, ainsi que dans la forme d'onde des contenus audio. Selon Google, Gemini a déjà intégré SynthID dans plus de 180 milliards d'images et de vidéos, ainsi que dans l'équivalent de 240 000 années d'audio. Le détecteur prend désormais en charge les filigranes de tous les partenaires de Google, et plus seulement ceux de l'entreprise elle-même. Dès aujourd'hui, n'importe qui peut y soumettre un contenu pour vérifier la présence d'un filigrane d'IA.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Jusqu'ici, la vérification était laborieuse. Hors du programme de testeurs de confiance de Google, la seule option consistait à interroger Gemini, une méthode peu pratique dont les réponses pouvaient prêter à confusion alors qu'on attendait simplement un « oui » ou un « non ». L'ancien détecteur ne repérait en outre que la version Google de SynthID. Des images produites par ChatGPT, par exemple, portent bien un filigrane SynthID, mais n'étaient pas signalées. Cette limite disparaît : journalistes, vérificateurs de faits, enseignants ou simples internautes disposent d'un outil unique, sans passer par Gemini, pour savoir si un contenu a été produit par une IA parmi les acteurs participants. Pour les plateformes et les rédactions, cela simplifie la lutte contre la désinformation visuelle et sonore.
Cette évolution s'inscrit dans l'effort plus large de l'industrie pour identifier les contenus synthétiques à mesure que la qualité des images, des vidéos et des voix générées progresse. SynthID a obtenu l'adhésion d'autres grands acteurs de l'IA, ce qui en fait peu à peu un standard de fait pour le marquage, mais la détection restait jusqu'ici fragmentée et peu lisible pour le public. Le nouveau site comble ce manque en centralisant la vérification. Reste à voir si d'autres développeurs rejoindront le dispositif et si des acteurs hors du cercle des partenaires, dont les contenus ne portent pas ce filigrane, pourront être couverts. Le dispositif ne détecte en effet que les contenus marqués par SynthID.
Le détecteur public SynthID facilite pour les rédactions, vérificateurs et enseignants européens l'identification de contenus IA, en lien avec les obligations de transparence de l'AI Act.