Le déploiement du filigrane d'Anthropic laisse une faille sur deux anciens modèles Claude
Anthropic étend son filigrane textuel à quatre modèles Claude supplémentaires afin de respecter l'échéance de décembre fixée par le règlement européen sur l'IA (AI Act). Ce marquage, qui permet d'identifier un texte comme généré par une IA, concerne désormais une plus large partie de la gamme. Mais sur deux modèles plus anciens, Claude Opus 4.6 et Sonnet 4.6, les développeurs peuvent le contourner en modifiant un seul paramètre d'échantillonnage, c'est-à-dire un réglage qui influence la façon dont le modèle choisit ses mots lors de la génération.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
La faille est notable car le filigrane statistique repose précisément sur ce mécanisme de sélection des mots. Si un simple réglage suffit à le neutraliser, toute personne disposant d'un accès à l'API peut produire du texte non marqué, ce qui réduit la fiabilité de la détection pour les plateformes, les éditeurs et les autorités chargés de repérer les contenus synthétiques. Anthropic ne corrige pas techniquement le problème sur ces deux modèles et se contente d'un avertissement de conformité adressé aux développeurs, leur rappelant leurs obligations. La responsabilité du respect de la règle est ainsi en partie reportée sur les utilisateurs, au lieu d'être garantie par l'éditeur.
Ce déploiement s'inscrit dans le cadre de l'AI Act européen, qui impose aux fournisseurs de systèmes d'IA générative de marquer les contenus produits dans un format lisible par machine, avec une échéance fixée à décembre. Les grands acteurs du secteur doivent donc industrialiser des techniques de marquage encore jeunes, dont la robustesse face aux contournements reste débattue. Le cas des modèles 4.6 illustre la difficulté de rendre conformes des modèles déjà déployés, dont l'architecture n'a pas été pensée pour cette contrainte. Reste à savoir si Anthropic comblera la faille ou si les régulateurs se montreront satisfaits d'un simple avertissement.
Le marquage des textes générés exigé par l'AI Act avant l'échéance de décembre doit être appliqué par les fournisseurs, et la faille sur deux modèles Claude interroge la conformité réelle et la réaction des régulateurs européens.