Ce que l'IA fait à votre cerveau
Une étude menée par Pattie Maes et son équipe du MIT Media Lab révèle un effet préoccupant sur l'usage des chatbots pour s'informer. Pendant quatre semaines, des participants ont évalué des paires de titres d'actualité et d'images, avec ou sans l'aide d'une IA, pour distinguer les fausses informations des vraies. Au début de l'expérience, l'assistance d'un chatbot les rendait 21 % plus précis dans cette tâche. Mais dès la quatrième semaine, ces mêmes participants s'étaient dégradés de 15 % dans leur capacité à repérer les fausses nouvelles sans IA, par rapport à leur niveau initial, alors même qu'environ un quart d'entre eux affirmaient se sentir plus performants. L'étude est cosignée par Anku Rani et Valdemar Danry, tous deux doctorants en arts et sciences des médias au MIT.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Ce résultat illustre ce que les chercheurs appellent le « paradoxe de la dépendance à l'IA », un phénomène déjà observé dans d'autres domaines comme la médecine. Concrètement, l'usage régulier d'un chatbot pour vérifier des informations semble éroder la capacité de jugement autonome des utilisateurs, même si ceux-ci ont l'impression subjective de progresser. Pour Anku Rani, le problème vient d'une confusion : les utilisateurs s'enthousiasment pour ces modèles de langage « magiques » en oubliant qu'il s'agit de simples systèmes statistiques prédisant le prochain mot d'une séquence. Cette découverte a des implications directes pour l'industrie de l'IA générative et les plateformes d'information, à l'heure où des millions de personnes s'appuient sur des chatbots pour trier l'actualité, avec un risque d'affaiblissement collectif de l'esprit critique.
Les chercheurs ont toutefois identifié une piste : le style d'interaction de l'IA change tout. Selon Valdemar Danry, les IA qui « disent » en donnant des réponses directes favorisent la dépendance, tandis que celles qui « demandent », via un questionnement socratique, aident davantage les utilisateurs à apprendre à discerner le vrai du faux par eux-mêmes, quitte à ralentir la prise de décision initiale. Ce compromis entre vitesse et effort cognitif pose une question de conception centrale pour les développeurs de chatbots : privilégier des réponses rapides et rassurantes, ou des interfaces plus lentes mais qui préservent, voire renforcent, l'autonomie de jugement des utilisateurs face à la désinformation.
Les millions d'utilisateurs européens qui s'appuient sur des chatbots pour trier l'actualité pourraient être exposes au même risque d'érosion du jugement critique mis en évidence par cette étude américaine.