Des citations inventées par l'IA s'infiltrent dans des articles qui influencent les recommandations cliniques, alertent des chercheurs
Une étude menée par Columbia University et plusieurs autres institutions, portant sur 2,5 millions d'articles biomédicaux, révèle que le taux de références bibliographiques fabriquées a été multiplié par plus de douze depuis 2023. Ces citations hallucinées par des modèles de langage présentent une caractéristique particulièrement alarmante : elles correspondent thématiquement au sujet de l'article, respectent les formats bibliographiques standards et sont quasiment indétectables à l'œil nu. Malgré l'ampleur du phénomène, 98 % des articles concernés n'ont reçu aucune réponse de la part de leurs éditeurs.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
L'enjeu dépasse la simple intégrité académique. Ces travaux biomédicaux servent directement à élaborer des recommandations cliniques, des protocoles de traitement et des décisions de santé publique. Une référence inventée qui passe les filtres éditoriaux peut ainsi contaminer une chaîne entière de décisions médicales, sans que les praticiens ou les autorités sanitaires qui s'appuient sur ces publications aient les moyens de s'en apercevoir.
Ce problème s'inscrit dans une dynamique plus large : depuis l'adoption massive des outils d'écriture assistée par IA dans la recherche scientifique, les mécanismes traditionnels de vérification par les pairs peinent à suivre. Les journaux académiques n'ont pas adapté leurs processus de révision à cette nouvelle réalité, et l'absence quasi totale de réponses editoriales signalée par les chercheurs illustre l'inertie du système. La communauté scientifique commence à réclamer des outils automatisés de détection et des politiques éditoriales contraignantes sur l'usage de l'IA dans la rédaction d'articles.
Les autorités sanitaires européennes (EMA, HAS) et les sociétés médicales qui s'appuient sur la littérature biomédicale internationale s'exposent au risque de protocoles cliniques fondés sur des références inexistantes et indétectables.
Multiplié par douze depuis 2023, et 98% des articles signalés sans aucune réponse éditoriale. Le vrai problème c'est pas la triche en soi, c'est que ces références inventées sont thématiquement cohérentes, bien formatées, et passent le peer-review avant d'atterrir dans des recommandations cliniques que des médecins vont vraiment appliquer. Les journaux ont clairement raté le virage.