En Australie, le parlement est inondé de contenus erronés générés par IA
Un vaste système d'analyse mis en place par The Guardian Australia a révélé que de nombreuses soumissions écrites déposées auprès de l'actuel Parlement australien, dans le cadre de ses commissions d'enquête, contiennent des citations et références scientifiques générées par intelligence artificielle et n'existant tout simplement pas. Le journal a d'abord constitué une base regroupant l'ensemble des documents envoyés aux comités parlementaires, puis a vérifié automatiquement chaque référence à l'aide de plusieurs bases de données académiques, avant de contrôler manuellement les cas les plus suspects. Résultat : au moins 39 textes destinés aux élus contiennent des références probablement inventées par des IA génératives. Une seconde méthode, consistant à repérer les identifiants d'URL automatiquement ajoutés par ChatGPT lorsqu'il fournit une source (comme le tag « utm_source=chatgpt.com »), a permis d'identifier plus de 100 documents supplémentaires portant la marque du chatbot d'OpenAI. Parmi les personnes concernées malgré elles figure Dina Haslam, psychologue et professeure associée à l'Université du Queensland, dont le nom a été associé à des travaux de recherche fictifs.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ce phénomène pose un problème direct pour la fabrique de la loi : les parlements s'appuient largement sur les auditions et rapports d'experts pour construire leurs décisions réglementaires, et des références fabriquées de toutes pièces mais présentées comme crédibles risquent d'influencer des choix politiques sur des bases fausses. Le cas est d'autant plus préoccupant que les autrices et auteurs des documents concernés, contactés par le journal, ont pour la plupart découvert seulement à cette occasion que les chatbots pouvaient inventer des sources plutôt que de simplement les résumer. Pour des chercheurs comme Dina Haslam, voir leur nom rattaché à des études qui n'existent pas, après des années de travaux rigoureux, représente une atteinte directe à leur crédibilité professionnelle.
Ce n'est pas un cas isolé. En 2025, le cabinet Deloitte avait dû rembourser une partie de sa rémunération après avoir livré à l'État australien un audit, portant sur un système d'automatisation des sanctions liées aux aides sociales, truffé d'erreurs et de fausses citations scientifiques typiques des textes générés par IA. Quelques mois plus tard, le gouvernement canadien de Terre-Neuve-et-Labrador avait dû exiger de la même entreprise qu'elle reprenne un rapport comportant des références scientifiques tout aussi fictives. Dans le domaine juridique, le chercheur Damien Charlotin a recensé plus de 2 000 cas de plaidoiries s'appuyant sur des hallucinations produites par l'IA, illustrant une contamination plus large des processus institutionnels et administratifs par du contenu généré automatiquement, sans vérification suffisante.
Le risque de citations scientifiques fabriquées par IA menace de la même manière les processus législatifs et administratifs français et européens, sans qu'aucun cas confirmé n'ait été rapporté à ce jour.