OpenAI ajoute un filigrane textuel dans ChatGPT et Codex
OpenAI déploie un filigrane textuel invisible et lisible par machine dans ChatGPT et Codex, d'abord réservé aux utilisateurs de l'Union européenne. Baptisée textGrain, cette technique marque les textes générés par ses modèles. OpenAI affirme qu'elle « égale ou dépasse » les approches concurrentes, notamment SynthID de Google DeepMind pour le texte, sur lequel repose aussi le filigrane qu'Anthropic a annoncé en août. L'entreprise publie en outre des scores de benchmarks IA montrant des performances comparables entre textes filigranés et non filigranés. Elle précise toutefois que textGrain ne garantit pas une détection infaillible, et reconnaît donc les limites de l'outil.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Également couvert par The Decoder.
Pour les utilisateurs européens, le changement est immédiat : les contenus produits avec ChatGPT ou Codex pourront désormais être identifiés comme générés par IA par des outils de détection, sans altération visible du texte. Cela concerne les enseignants, les éditeurs, les plateformes et les autorités, qui cherchent des moyens fiables de distinguer contenu humain et contenu synthétique. L'initiative ne fait pas l'unanimité : l'annonce d'Anthropic avait déjà suscité des réactions négatives, certains utilisateurs craignant d'être marqués à leur insu ou de voir leurs textes tracés. Le fait de limiter le dispositif à l'Europe montre aussi que les obligations réglementaires, plus que le choix technique, dictent le calendrier.
Cette évolution découle du règlement européen sur l'IA (AI Act), qui impose aux fournisseurs de systèmes génératifs de marquer leurs sorties dans un format lisible par machine. OpenAI et Anthropic ont ainsi choisi de se conformer à cette exigence, en s'appuyant sur des méthodes proches de celle de Google DeepMind, ce qui dessine une convergence technique entre les grands acteurs. Reste à savoir si le dispositif sera étendu hors d'Europe, s'il résistera à la paraphrase ou à la réécriture, et si les outils de détection seront interopérables d'un fournisseur à l'autre. Ces questions détermineront l'utilité réelle de ces filigranes.
Le filigrane textuel est d'abord réservé aux utilisateurs de l'UE, car l'AI Act impose aux fournisseurs de marquer les contenus générés dans un format lisible par machine.