Google renonce à protéger l'IA de la désinformation malgré son filigrane SynthID difficile à contourner
L'ampleur des contenus générés par intelligence artificielle dépasse l'entendement. Starling Lab, un laboratoire de recherche associant Stanford et l'université de Californie du Sud, a calculé qu'il avait fallu 149 ans à l'humanité pour produire 1,5 milliard d'images après l'invention de l'appareil photo en 1826, un seuil atteint en 1975. L'IA générative, elle, a produit le même volume en seulement 18 mois. Ce printemps, lors de sa conférence I/O, Google a annoncé que ses outils avaient permis de créer plus de 100 milliards d'images et de vidéos générées par IA en l'espace de deux ans à peine, un chiffre d'autant plus vertigineux que Google est loin d'être la seule source de contenus IA sur le web. L'entreprise a accompagné cette statistique de plusieurs partenariats visant à étendre l'usage de SynthID, sa technologie de tatouage numérique conçue pour marquer les contenus générés par IA et aider à distinguer le vrai du faux.
Cette expansion massive de SynthID a une portée concrète pour quiconque consomme de l'information en ligne. Le filigrane invisible, intégré directement dans les pixels ou les échantillons audio, résiste bien mieux aux manipulations que les métadonnées classiques, qui disparaissent dès qu'une image est recadrée, compressée ou capturée en photo d'écran. Plateformes, médias et plateformes de vérification des faits pourraient ainsi s'appuyer sur cet outil pour authentifier plus fiablement une partie du contenu circulant en ligne, à l'heure où les deepfakes et la désinformation générée par IA inquiétent gouvernements et opinion publique.
Mais la robustesse technique de SynthID ne suffit pas à endiguer le problème de fond. Le filigrane ne fonctionne que si le contenu a été généré via les outils Google et que les plateformes prennent la peine de le vérifier, ce qui laisse de côté la quasi-totalité des générateurs concurrents et des contenus déjà en circulation. Les chercheurs de Starling Lab rappellent que la traçabilité de l'authenticité d'un contenu reste un défi bien plus vaste que la seule détection technique, impliquant coopération entre entreprises technologiques, plateformes sociales et régulateurs pour espérer contenir la vague de désinformation que l'explosion des volumes de production IA rend chaque jour plus difficile à maîtriser.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.




