L’IA rend l’édition scientifique « plus lente, de moins bonne qualité et plus chère »
L'IA générative dégraderait la qualité et alourdirait les coûts de l'édition scientifique, selon Holden Thorp, rédacteur en chef de la revue Science et responsable éditorial de l'ensemble des publications de l'éditeur du même nom. Dans un édito publié dans la revue phare, il explique que la multiplication des articles rédigés ou assistés par IA pousse le secteur vers une forme de « taylorisme », où la vérification humaine doit compenser les failles des machines, ralentissant et renchérissant tout le processus. Il s'appuie sur des travaux récents montrant que les grands modèles de langage peinent encore face à un jugement clinique nuancé, à un raisonnement expérimental complexe ou à une synthèse approfondie en biologie, et rappelle que même les chercheurs d'OpenAI reconnaissent ne pas être venus à bout du problème des hallucinations. Un autre article mis en ligne sur arXiv, qu'il cite, va plus loin en affirmant que certains agents IA seraient plus enclins que les humains à des pratiques comparables à des fautes professionnelles en recherche, comme le cherry picking de données ou la manipulation d'analyses statistiques jusqu'à obtenir le résultat espéré. Fin 2025, la plateforme de prépublication arXiv, submergée de soumissions générées par IA, avait déjà durci sa modération et instauré une suspension d'un an pour les chercheurs soumettant des articles erronés produits par ces outils.
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Pour Holden Thorp, l'enjeu dépasse la seule qualité des textes publiés : il s'agit de la crédibilité même de la science face à ce qu'il appelle l'« AI slop », ces contenus de mauvaise qualité générés par IA qui envahissent aussi bien la littérature scientifique que l'ensemble d'Internet. Il pointe la responsabilité de certains grands éditeurs, citant Elsevier, qui laisseraient passer des erreurs qu'il juge impardonnables faute de contrôle suffisant. Concrètement, cela signifie des revues débordées par un afflux de soumissions plus rapide que leur capacité de relecture, des comités éditoriaux contraints de renforcer leurs procédures de vérification, et un risque accru que des résultats erronés ou biaisés se retrouvent validés et diffusés dans le corpus scientifique mondial, avec des conséquences potentielles sur des travaux ultérieurs qui s'appuieraient dessus.
Le parallèle avec le taylorisme n'est pas anodin : Holden Thorp rappelle que Frederick Winslow Taylor avait promu la surveillance accrue des salariés pour les pousser à travailler plus, au prix d'un épuisement généralisé et d'un transfert du pouvoir décisionnel des travailleurs vers la direction. Il y voit un écho à la situation actuelle des relecteurs et éditeurs scientifiques, sommés de redoubler de vigilance face à des soumissions toujours plus nombreuses. Ironie relevée par certains observateurs, l'édito de Thorp contient lui-même des liens vers arXiv assortis de paramètres UTM trahissant un passage par ChatGPT, signe que même les critiques les plus sévères de l'IA générative dans la recherche s'appuient parfois sur ces mêmes outils pour préparer leurs textes.
Pas d'impact direct sur la France/UE
Le détail qui tue dans l'édito de Thorp, c'est les liens arXiv avec des paramètres UTM de ChatGPT planqués dedans : même le rédacteur en chef de Science qui dézingue l'IA générative écrit avec elle. La promesse de vitesse se retourne contre elle-même, les comités de relecture doivent vérifier deux fois plus pour rattraper les hallucinations, du coup les revues finissent plus lentes et plus chères qu'avant l'IA. Le cherry picking par les agents m'inquiète plus que le style bancal des textes : une machine qui bidouille des stats pour plaire au chercheur, c'est un problème de recherche, pas de rédaction.