Le filigrane textuel d'Anthropic est facile à contourner sur plusieurs anciens modèles de Claude
Anthropic étend le filigrane de ses textes à quatre modèles Claude supplémentaires, à l'approche de l'échéance de décembre fixée par le règlement européen sur l'intelligence artificielle (AI Act). Sur des modèles plus anciens, dont Claude Opus 4.6 et Sonnet 4.6, le dispositif présente toutefois une faille notable. Les utilisateurs de l'API peuvent désactiver le filigrane en modifiant un seul paramètre d'échantillonnage. Face à cette faiblesse, Anthropic n'a pas corrigé la protection. L'entreprise se contente d'un avertissement de conformité adressé aux développeurs.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Un filigrane qui disparaît avec un simple réglage perd l'essentiel de son intérêt. Tout repose alors sur la bonne foi de ceux qui utilisent l'API, c'est-à-dire précisément les usages automatisés et à grande échelle, où l'identification des contenus générés par IA compte le plus. Pour les régulateurs, les plateformes ou les établissements qui cherchent à distinguer un texte humain d'un texte synthétique, la fiabilité du marquage reste donc limitée sur ces modèles. La responsabilité de la conformité est de fait reportée sur les clients d'Anthropic, et non garantie par la technique.
L'AI Act impose aux fournisseurs de systèmes d'IA générative de marquer les contenus synthétiques dans un format détectable, et décembre constitue pour eux une étape de mise en conformité. Les filigranes textuels reposent généralement sur une influence discrète du choix des mots pendant la génération, ce qui les rend sensibles aux paramètres qui modifient cet échantillonnage. La suite dépendra de la capacité d'Anthropic à verrouiller le mécanisme côté serveur sur ses anciens modèles, et de l'appréciation des autorités européennes sur la robustesse exigée.
Le filigrane d'Anthropic, exigé par l'AI Act pour marquer les contenus synthétiques avant l'échéance de décembre, est contournable via l'API sur plusieurs anciens modèles, ce qui interroge la conformité des fournisseurs et la robustesse attendue par les autorités européennes.