La signature secrète des textes artificiels
Chaque texte généré par Claude pourrait désormais porter un filigrane invisible. Anthropic, qui a conçu le chatbot, ne l'a pas décidé de sa propre initiative : la startup se met en conformité avec le règlement européen sur l'IA (AI Act) et son article 50, en vigueur depuis le 2 août, qui oblige les fournisseurs d'IA générative à marquer leurs productions. L'entreprise a repris la technologie SynthID, développée par Google DeepMind et intégrée à Gemini depuis 2024, et déployé un outil de détection dont l'accès reste pour l'instant limité aux médias, aux ONG et aux universités. Le procédé agit au cœur du modèle. Claude découpe la requête en fragments de mots, les tokens, puis génère sa réponse morceau par morceau en attribuant un score de probabilité à chaque candidat, en écartant les moins pertinents et en tirant au sort le token retenu selon ce score. C'est à cette étape que le marquage intervient.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Sciences et Avenir Tech. Lire l'article original →
Selon Teddy Furon, responsable de l'équipe-projet Artishau à Inria, il existe deux approches : biaiser la distribution des tokens pour rendre certains plus probables, au risque de dégrader la qualité de la réponse, ou influencer le tirage au sort lui-même. SynthID choisit la seconde voie, à l'aide d'un générateur de nombres pseudo-aléatoires piloté par une valeur de départ secrète. Le choix des mots reste aléatoire en apparence, mais chaque tirage laisse une empreinte statistique que seul celui qui connaît la valeur secrète peut reconnaître, et le tatouage ressort d'autant mieux que le texte est long.
L'enjeu est considérable pour la traçabilité des contenus synthétiques, mais le dispositif a des limites sérieuses. Le filigrane dépend de la liberté dont dispose le modèle : si on lui demande de réciter à l'identique le premier article de la Constitution, il n'y a aucun marquage, alors qu'un essai, différent à chaque génération, portera bien la trace. Il suffit en outre de réécrire la réponse pour l'effacer, et son absence ne prouve pas qu'un texte a été écrit par un humain, seulement que Claude n'y a pas contribué. La communication d'Anthropic a par ailleurs suscité des critiques. La société a expliqué que le filigrane jouait sur des « choix mineurs » entre synonymes, une simplification qui a irrité des observateurs et des journalistes, dont Jason Koebler, cofondateur de 404 Media, pour qui les entreprises d'IA « se moquent bien de l'écriture ». Teddy Furon rétorque que SynthID n'introduit aucun biais dans la distribution des tokens.
Cette mise en conformité s'inscrit dans le cadre de l'AI Act, qui impose désormais aux fournisseurs de modèles génératifs de rendre leurs contenus identifiables. Google a ouvert la voie avec SynthID dès 2024 sur Gemini, et Anthropic, devenue l'une des plus grosses startups du secteur, suit en s'appuyant sur une brique existante plutôt qu'en développant sa propre solution. La suite dépendra de l'élargissement de l'accès à l'outil de détection, aujourd'hui réservé à quelques acteurs, et de la capacité de ces filigranes à résister aux réécritures, ce qui reste leur principal point faible.
L'article 50 de l'AI Act, en vigueur depuis le 2 août, oblige les fournisseurs d'IA générative à marquer leurs contenus, ce qui pousse Anthropic à filigraner les textes de Claude et mobilise la recherche française (Inria).