Claude va apposer des filigranes invisibles sur les textes et images générés par IA
Anthropic a annoncé son intention d'intégrer des marqueurs invisibles et lisibles par machine dans les contenus générés par Claude, qu'il s'agisse de texte ou d'images. Selon une nouvelle page d'assistance publiée par l'entreprise, "les textes générés porteront des filigranes intégrés, et les fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est possible". Ces marqueurs resteront totalement indétectables à l'œil humain, mais permettront aux plateformes en ligne et aux utilisateurs de vérifier si un contenu provient bien des modèles Claude. Anthropic précise qu'il s'agit d'un engagement à venir plutôt que d'une mesure déjà appliquée : le déploiement effectif de ces filigranes n'est pas encore effectif.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Également couvert par Presse-citron, Next INpact.
Cette initiative répond directement à de nouvelles obligations européennes en matière d'étiquetage et de transparence de l'intelligence artificielle, qui imposent aux fournisseurs de rendre identifiable le contenu généré par IA. Pour les plateformes en ligne, les régulateurs et les utilisateurs, disposer d'un moyen fiable de tracer l'origine d'un texte ou d'une image devient crucial face à la multiplication des contenus synthétiques, qu'il s'agisse de lutter contre la désinformation, de protéger l'intégrité de l'information ou simplement d'informer le public sur ce qu'il consulte.
Cette annonce s'inscrit dans un mouvement plus large de l'industrie de l'IA vers des standards de provenance numérique, à mesure que les législations, notamment en Europe, se durcissent sur la traçabilité des contenus générés par des modèles comme ceux d'Anthropic. D'autres acteurs du secteur ont déjà exploré des approches similaires de métadonnées signées et de filigranes numériques. Reste à voir dans quel délai Anthropic mettra concrètement en œuvre ce dispositif et comment il s'articulera avec les obligations réglementaires européennes à venir.
Cette initiative répond directement aux obligations d'étiquetage et de traçabilité de l'IA Act européen, offrant aux plateformes et régulateurs de l'UE un moyen de vérifier l'origine des contenus générés par IA.