L’IA générative empêche d’admettre que nous ne savons pas
Une étude publiée en preprint par le chercheur en informatique Walter Quattrociocchi, associé à Chiara Marcoccia et Valerio Capraro, révèle que l'accès à une intelligence artificielle pousse les utilisateurs à ne quasiment plus jamais admettre leur ignorance, même quand cela les conduit à se tromper davantage. Les trois chercheurs ont soumis 3 132 participants à six questions pointues sur le cinéma, portant sur des détails visuels difficiles à retrouver pour un humain mais propices aux hallucinations d'un modèle de langage, comme la couleur d'un maillot dans « Joue-la comme Beckham ». Ils ont volontairement utilisé Step 3.5 Flash, un modèle dont ils savaient que la totalité des réponses fournies seraient erronées. Un premier groupe répondait seul, un second pouvait interroger l'IA. Résultat : 44 % des membres du groupe témoin ont répondu « je ne sais pas », contre seulement 3 % de ceux ayant consulté l'IA. Le taux de bonnes réponses est passé de 27 % à 9 % entre les deux groupes, tandis que le niveau de confiance déclaré a bondi de 30 % à 76 %. Des incitations financières récompensant l'exactitude n'ont amélioré les résultats que marginalement.
Ces chiffres illustrent un mécanisme préoccupant : l'IA générative ne se contente pas de donner de mauvaises réponses, elle convainc aussi ses utilisateurs qu'ils ont raison. Près d'un tiers des participants du second groupe auraient pu répondre correctement s'ils n'avaient pas consulté l'IA, mais la simple présence d'une réponse formulée avec assurance a suffi à effacer leur doute initial. Ce phénomène touche directement à la capacité de jugement, cette faculté à savoir reconnaître les limites de ses propres connaissances, considérée par Quattrociocchi comme l'un des fondements du raisonnement humain. Pour des professionnels amenés à s'appuyer sur des assistants IA dans leur travail quotidien, l'étude suggère un risque concret de dégradation silencieuse de la fiabilité des décisions, masqué par un sentiment de compétence artificiellement gonflé.
Cette recherche prend un relief particulier alors que le gouvernement français a annoncé l'introduction, dès la rentrée prochaine, d'une heure hebdomadaire de cours d'intelligence artificielle pour les élèves de seconde. Elle rejoint les travaux plus larges de Quattrociocchi sur la désinformation et la post-vérité, dont il a déjà tiré trois ouvrages, et pose la question de la manière dont l'éducation au numérique devrait intégrer un apprentissage explicite du doute face aux réponses générées par IA. Les résultats interrogent aussi la conception même des interfaces conversationnelles, souvent pensées pour délivrer une réponse assurée plutôt que pour exprimer une incertitude, alors que cette dernière serait pourtant plus fidèle à la réalité des capacités du modèle.
Cette etude interroge directement le contenu du futur enseignement obligatoire de l'IA en classe de seconde annonce par le gouvernement francais.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.




