OpenAI va filigraner par défaut les contenus de ChatGPT, mais uniquement dans l'UE
OpenAI a annoncé qu'elle appliquera automatiquement un filigrane aux textes générés par ChatGPT dans l'Union européenne. La fonction sera aussi proposée dans les autres régions du monde, mais désactivée par défaut hors d'Europe. L'entreprise baptise sa méthode textGrain, une technologie propriétaire dont elle a publié un article technique détaillant le fonctionnement. Le principe reste proche de celui des outils de marquage de modèles de langage déjà connus : le système introduit dans le choix des mots des motifs imperceptibles pour un lecteur humain, qui ne dégradent pas sensiblement la qualité du texte, mais qu'un détecteur spécialisé, muni d'une clé, peut repérer. OpenAI donnera accès à ce détecteur à un nombre limité de chercheurs et d'organisations, avec une procédure de demande d'autorisation permettant d'en élargir progressivement la liste.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Cette décision répond à une obligation légale concrète. Le règlement européen sur l'intelligence artificielle, entré en vigueur en août, impose de marquer les contenus produits par des modèles d'IA de manière à ce qu'un autre outil puisse les détecter. Pour les utilisateurs européens de ChatGPT, le filigrane deviendra donc la norme, tandis que le reste du monde devra l'activer volontairement. Reste une limite majeure : il n'existe toujours aucune méthode totalement efficace et fiable pour y parvenir. Les standards existants, comme SynthID ou le projet C2PA, se contournent assez facilement pour quiconque possède quelques connaissances techniques, et il est probable qu'il en aille de même pour textGrain. L'accès restreint au détecteur limite en outre, pour l'instant, la vérification par le grand public, les enseignants ou les médias.
Ce choix illustre la façon dont la régulation européenne façonne les pratiques des géants de l'IA, qui doivent adapter leurs produits région par région. Il révèle aussi un décalage entre l'ambition du législateur et la réalité technique : la loi exige un marquage détectable alors que la recherche n'a pas encore produit de solution robuste, en particulier pour le texte, bien plus difficile à marquer que l'image ou l'audio. La différence de traitement entre l'Europe et les autres marchés pourrait se réduire si d'autres pays adoptent des règles comparables. Le élargissement futur de l'accès au détecteur, et la capacité des chercheurs à tester la résistance du filigrane, détermineront sa crédibilité.
Les utilisateurs européens de ChatGPT verront leurs textes filigranés par défaut afin de respecter l'obligation de marquage des contenus générés imposée par le règlement européen sur l'IA.
Selon Le Fil IA, l'AI Act vient de créer le premier filigrane obligatoire que personne ne sait rendre fiable : la loi exige un marquage détectable alors que la recherche n'a pas de solution robuste pour le texte. OpenAI coche la case côté Europe, mais un détecteur réservé à quelques chercheurs, ça ne sert ni aux profs ni aux médias. Bon, sur le papier c'est une avancée. Reste à voir si textGrain survit à la première reformulation un peu maline.