Actualité : “On a cessé de réfléchir” : cette étude accablante montre que 8 personnes sur 10 suivent ChatGPT, même quand il dit n'importe quoi
Une étude publiée récemment et menée auprès de 1 372 participants révèle que 8 personnes sur 10 adoptent les réponses de ChatGPT sans les remettre en question, même lorsque ces réponses contiennent des erreurs délibérément introduites par les chercheurs. Plus troublant encore : les sujets exprimaient une plus grande confiance en leurs propres réponses après avoir suivi l'IA, y compris quand celle-ci se trompait manifestement.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Les Numériques IA. Lire l'article original →
Ce phénomène, que les auteurs rapprochent de la notion de "pensée artificielle", dépasse le simple manque d'esprit critique. Il signale une forme d'externalisation cognitive massive : les utilisateurs ne vérifient plus, ils délèguent. Pour les secteurs où la précision est vitale, médecine, droit, éducation, journalisme, cette complaisance représente un risque systémique concret. L'IA ne renforce plus le jugement humain ; elle le remplace, avec l'assentiment de l'utilisateur.
Ce résultat s'inscrit dans un débat qui monte depuis l'explosion de l'usage grand public des LLMs en 2023. Des travaux antérieurs avaient déjà documenté l'effet de "automation bias", la tendance à faire confiance aux systèmes automatisés plutôt qu'à son propre raisonnement. Mais l'ampleur mesurée ici, 80 % de conformité même face à des erreurs flagrantes, dépasse les estimations précédentes. À mesure que ChatGPT, Gemini et leurs concurrents s'intègrent dans les outils de travail quotidiens, la question de la littératie IA devient urgente : savoir utiliser ces outils, c'est d'abord savoir leur résister.
Les résultats renforcent l'urgence d'intégrer la littératie IA dans les cursus éducatifs européens et alimentent les débats sur les obligations de transparence et d'évaluation des risques prévues par l'AI Act.