Substack s’attaque aux textes générés par IA : un nouvel outil de détection débarque
Substack déploie un nouvel outil permettant de détecter la part de texte potentiellement générée par une intelligence artificielle dans les publications de la plateforme. Développé en partenariat avec Pangram, une société spécialisée dans la détection de contenus IA, cet outil est accessible depuis aujourd'hui sur le web et sur l'application iOS, une version Android devant suivre plus tard. Il fonctionne sur les publications de plus de 100 mots, ainsi que sur les notes, commentaires et réponses postés sur la plateforme. Pour l'utiliser, il suffit d'ouvrir le menu d'un article et de sélectionner l'option « Analyser le texte par IA », ce qui renvoie une estimation du pourcentage de texte jugé généré artificiellement. Substack lance en parallèle une nouvelle section baptisée « Comment je crée », où les auteurs peuvent détailler leur méthode de travail et préciser, le cas échéant, la manière dont l'IA est intervenue dans la rédaction, qu'il s'agisse d'une simple correction, d'une aide ponctuelle ou d'une participation plus importante. Les auteurs pourront aussi faire analyser leurs brouillons par Pangram avant publication et signaler les résultats qu'ils estiment erronés.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Pour Chris Best, PDG et cofondateur de Substack, l'enjeu n'est pas l'usage de l'IA en soi mais l'absence de transparence sur son rôle dans la création d'un contenu, un phénomène qu'il qualifie de « Claudefishing » : des textes générés par IA présentés comme entièrement écrits par une personne pour créer une fausse proximité avec les lecteurs. L'entreprise estime que ce doute sur l'authenticité des textes érode la confiance envers les auteurs, un capital central sur une plateforme qui repose sur la relation directe entre créateurs et abonnés payants. À terme, cette opacité risque aussi de pénaliser les créateurs qui utilisent l'IA de façon responsable, en complément de leur propre écriture, en les assimilant aux usages les moins transparents. En donnant aux lecteurs un indicateur et aux auteurs un espace pour expliquer leurs méthodes, Substack cherche à préserver la valeur perçue du contenu original sur sa plateforme.
Cette initiative s'inscrit dans un débat plus large sur la place de l'IA générative dans la production de contenus en ligne, alors que des outils comme ceux d'OpenAI ou d'Anthropic rendent de plus en plus difficile la distinction entre texte humain et texte artificiel. Chris Best reconnaît d'ailleurs les limites de la technologie : Pangram ne peut qu'estimer la probabilité qu'un texte ait été généré par IA, sans juger de la qualité du travail humain qui l'entoure, ni détecter les cas où l'IA n'a servi que d'outil de recherche ou d'assistance ponctuelle. Le résultat affiché reste donc un indicateur, pas une preuve définitive. D'autres plateformes de publication et réseaux sociaux devraient être confrontées aux mêmes arbitrages dans les mois à venir, entre valorisation de la créativité humaine et intégration croissante des outils d'IA dans les usages des créateurs.
Les créateurs francophones utilisant Substack pourront accéder à cet outil, mais aucune entreprise ou réglementation française ou européenne n'est directement concernée.