L’IA entre dans les fonds : pourquoi la question n’est plus la productivité mais la gouvernance

Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA

Le mathématicien Adam Kucharski a mis en évidence une faille frappante dans Microsoft Copilot : lorsqu'il a soumis à l'outil des jeux de données strictement identiques en changeant uniquement les étiquettes de pays, Copilot a produit des analyses détaillées faisant état de différences nationales qui n'existaient tout simplement pas. Au lieu de détecter l'absence de variation dans les chiffres, le modèle par défaut a généré des stéréotypes circonstanciés, présentant des résultats fabriqués comme s'ils étaient fondés sur les données réelles. Cette expérience, reproductible avec d'autres plateformes comme Gemini, révèle un angle mort systématique dans les outils d'IA généraliste utilisés au quotidien. Le problème n'est pas anodin : des professionnels s'appuient sur ces outils pour analyser des données économiques, sociales ou médicales, et un modèle qui confond ses propres biais culturels avec une analyse factuelle peut conduire à des décisions erronées sans que l'utilisateur s'en aperçoive. Les modèles dits "de raisonnement" (o3 d'OpenAI, les modes thinking de Gemini, etc.) parviennent à détecter ce type de piège, mais uniquement si l'utilisateur choisit activement de les activer, ce que la grande majorité ne fait pas. Ce constat pointe vers un problème de conception plus large : les interfaces de Copilot, Gemini ou ChatGPT proposent un modèle par défaut qui n'est pas nécessairement adapté à toutes les tâches, sans guider l'utilisateur vers le bon outil. Alors que Microsoft et Google intègrent l'IA dans des environnements professionnels sensibles, la question de la sélection automatique ou assistée du modèle selon le contexte d'usage devient un enjeu de fiabilité critique, que les éditeurs n'ont pas encore pleinement résolu.

💬 Le test d'Adam Kucharski est glaçant: données identiques, étiquettes de pays changées, et Copilot invente des différences nationales bien argumentées. Le modèle ne ment pas au sens classique, il comble les vides avec ses biais culturels, et ça passe parce que c'est fluide et ça semble fondé. Utiliser ces outils sur des données pro sans activer les modes raisonnement, c'est signer un rapport avec un outil qui hallucine en silence.

L'IA est plus susceptible que les humains de développer des biais dans le recrutement

Des chercheurs de l'université de Princeton et de l'université de Chicago ont soumis plusieurs grands modèles de langage, dont ChatGPT, Claude et Gemini, à un jeu de simulation de recrutement inspiré d'une étude de psychologie sur la formation des stéréotypes humains. Chaque modèle jouait le rôle d'un consultant engagé par le maire d'une ville fictive pour pourvoir 20 postes, allant de médecin et avocat à aide à domicile et agent d'entretien. Les candidats appartenaient à quatre groupes ethniques fictifs baptisés Tufa, Aima, Reku et Weki. À chaque tour, l'IA embauchait un candidat parmi quatre puis apprenait s'il avait réussi dans son poste, sur un total de 40 tours, sans savoir que tous les candidats avaient en réalité des chances égales de succès. Résultat : les modèles ont rapidement cantonné certains groupes à certains métiers sur la base de quelques échecs isolés. Par exemple, après l'échec d'un candidat Aima comme médecin, un poste jugé exiger chaleur humaine et compétence, le modèle a cessé d'embaucher des Aimas à ce poste pour les orienter vers des emplois moins valorisés comme agent d'entretien. Sur une échelle de ségrégation où 2 représente un cantonnement total par groupe, les participants humains de l'étude originale obtenaient en moyenne 0,84, contre environ 65 % de plus pour les IA, le modèle o3 d'OpenAI atteignant 1,83, proche du maximum. L'étude a été publiée en juillet lors de la conférence ICML à Séoul. Cette découverte prend une importance particulière alors que les entreprises d'IA développent des modèles agentiques dotés d'une mémoire toujours plus fine des utilisateurs. Selon Angelina Wang, chercheuse en informatique à l'université Cornell qui n'a pas participé à l'étude, un chatbot capable de se souvenir de ses échanges précédents risque de "sur-indexer" sur des comportements déjà rencontrés, renforçant ainsi ses biais au fil du temps. Réduire simplement la mémoire des IA n'est pas une solution viable, les utilisateurs souhaitant au contraire que les assistants se souviennent de ce qu'ils leur confient. Ryan Liu, doctorant à Princeton et coauteur de l'étude, explique que les modèles de langage sont particulièrement enclins à généraliser à partir de données limitées, car c'est précisément ce pour quoi ils sont optimisés lors de leur entraînement sur des tâches mathématiques, de programmation et scientifiques qui récompensent l'induction rapide. Ce constat illustre l'arbitrage classique entre exploration et exploitation, ce dilemme qui pousse à choisir entre s'en tenir à une solution qui a fonctionné par le passé ou tenter une approche différente potentiellement meilleure. Or les modèles les plus récents et les plus performants en raisonnement, comme o3 d'OpenAI ou R1 de DeepSeek, se sont révélés encore plus sujets à ces biais que leurs prédécesseurs. Demander explicitement au modèle de se montrer équitable n'a par ailleurs guère modifié son comportement. OpenAI et Anthropic n'ont pas répondu aux sollicitations des chercheurs, et Angelina Wang souligne que la communauté scientifique cherche encore le juste équilibre entre une mémoire trop développée, propice aux biais, et une mémoire trop limitée, qui priverait les utilisateurs des bénéfices de la personnalisation.

La plupart des grands chatbots IA penchent à gauche sur les questions politiques, même les modèles 'anti-woke

Une enquête du Washington Post révèle que la grande majorité des chatbots d'intelligence artificielle affichent un biais politique orienté à gauche lorsqu'ils répondent à des questions sensibles. Le modèle GPT-5.5 d'OpenAI s'est distingué en produisant des arguments exclusivement progressistes dans 80 % des cas testés. Fait plus surprenant, Grok, le chatbot de Xai développé par Elon Musk et explicitement positionné comme une alternative aux IA jugées trop "woke", penche lui aussi plus souvent à gauche qu'à droite. Seul Gemini 3.1 Pro de Google fait exception, présentant des arguments équilibrés des deux côtés du spectre dans 93 % des cas. Ce biais systémique pose un problème de confiance majeur pour des outils que des centaines de millions de personnes utilisent désormais comme sources d'information et d'aide à la réflexion. Si les IA orientent subtilement les raisonnements politiques de leurs utilisateurs, l'impact sur la formation des opinions publiques pourrait être considérable, d'autant que ces systèmes sont de plus en plus intégrés dans les moteurs de recherche, les assistants scolaires et les outils professionnels. La question du biais politique dans les LLMs alimente les débats depuis plusieurs années, notamment aux États-Unis où les plateformes technologiques sont accusées par la droite de favoriser les narratifs progressistes. Musk avait justifié le lancement de Grok précisément par ce reproche. Ces résultats suggèrent que le biais émerge moins d'intentions délibérées que des données d'entraînement et des méthodes d'alignement elles-mêmes, rendant la correction structurellement difficile pour l'ensemble de l'industrie.

💬 Le vrai enseignement ici, c'est pas que les IA penchent à gauche. C'est que même quand on essaie de corriger le biais de l'extérieur (Musk avec Grok, c'est le cas d'école), il revient par la fenêtre parce qu'il est structurel, ancré dans les données et les méthodes d'alignement elles-mêmes. Pour des outils que des centaines de millions de personnes utilisent pour se forger une opinion, c'est pas un détail de paramétrage qu'on règle en une mise à jour.

« Ce n'est pas sain » : l'usage des LLM plus problématique qu'on ne le pense

Le vulgarisateur scientifique et YouTubeur américain Hank Green a annoncé qu'il allait lever le pied sur sa production de vidéos, après une vague de critiques intenses concernant son usage de l'intelligence artificielle. Green a lui-même qualifié cet usage de "malsain", tout en précisant qu'il utilisait l'IA uniquement pour trouver des sources de recherche, et jamais pour rédiger ses scripts. Cette mise au point n'a pas suffi à calmer la polémique, une partie de l'attention s'étant portée sur la description que Green a faite de ce qui ressemble à une dépendance problématique à l'outil. Cette controverse illustre une tension de plus en plus vive dans l'économie des créateurs de contenu : comment concilier une marque personnelle bâtie sur l'authenticité et la crédibilité avec une technologie entraînée sur les œuvres, souvent non rémunérées, d'autres auteurs, et connue pour sa tendance à générer des affirmations fausses mais formulées de façon plausible. Pour un vulgarisateur scientifique, dont la valeur repose entièrement sur la fiabilité de l'information transmise, le risque réputationnel est direct : chaque erreur générée par une IA utilisée en coulisses peut être perçue comme une trahison de la confiance du public. L'affaire s'inscrit dans un débat plus large sur la place de l'IA générative dans le travail journalistique et éducatif en ligne, où de nombreux créateurs recourent discrètement à ces outils pour gagner du temps sur la recherche documentaire. Le cas Green relance la question de la transparence : jusqu'où un créateur doit-il révéler son usage de l'IA, et où se situe la frontière entre aide légitime à la recherche et dépendance problématique.