Aller au contenu principal
Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA
ÉthiqueThe Decoder6sem· 1 min de lecture

Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA

Source originale ↗·

Le mathématicien Adam Kucharski a mis en évidence une faille frappante dans Microsoft Copilot : lorsqu'il a soumis à l'outil des jeux de données strictement identiques en changeant uniquement les étiquettes de pays, Copilot a produit des analyses détaillées faisant état de différences nationales qui n'existaient tout simplement pas. Au lieu de détecter l'absence de variation dans les chiffres, le modèle par défaut a généré des stéréotypes circonstanciés, présentant des résultats fabriqués comme s'ils étaient fondés sur les données réelles. Cette expérience, reproductible avec d'autres plateformes comme Gemini, révèle un angle mort systématique dans les outils d'IA généraliste utilisés au quotidien.

Le problème n'est pas anodin : des professionnels s'appuient sur ces outils pour analyser des données économiques, sociales ou médicales, et un modèle qui confond ses propres biais culturels avec une analyse factuelle peut conduire à des décisions erronées sans que l'utilisateur s'en aperçoive. Les modèles dits "de raisonnement" (o3 d'OpenAI, les modes thinking de Gemini, etc.) parviennent à détecter ce type de piège, mais uniquement si l'utilisateur choisit activement de les activer, ce que la grande majorité ne fait pas.

Ce constat pointe vers un problème de conception plus large : les interfaces de Copilot, Gemini ou ChatGPT proposent un modèle par défaut qui n'est pas nécessairement adapté à toutes les tâches, sans guider l'utilisateur vers le bon outil. Alors que Microsoft et Google intègrent l'IA dans des environnements professionnels sensibles, la question de la sélection automatique ou assistée du modèle selon le contexte d'usage devient un enjeu de fiabilité critique, que les éditeurs n'ont pas encore pleinement résolu.

Impact France/UE

Les professionnels européens utilisant Copilot ou Gemini pour analyser des données économiques, sociales ou médicales s'exposent à des décisions fondées sur des analyses fabriquées, un risque de fiabilité directement dans le viseur de l'AI Act pour les systèmes à usage professionnel sensible.

💬 L'analyse de Mathieu

Le test d'Adam Kucharski est glaçant: données identiques, étiquettes de pays changées, et Copilot invente des différences nationales bien argumentées. Le modèle ne ment pas au sens classique, il comble les vides avec ses biais culturels, et ça passe parce que c'est fluide et ça semble fondé. Utiliser ces outils sur des données pro sans activer les modes raisonnement, c'est signer un rapport avec un outil qui hallucine en silence.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Le coût caché des paramètres IA par défaut de Google et l'illusion du choix
1Ars Technica AI 

Le coût caché des paramètres IA par défaut de Google et l'illusion du choix

Google pousse activement son assistant Gemini dans l'ensemble de son écosystème de produits, des messageries Gmail aux espaces de stockage Google Drive, transformant ses services les plus utilisés en terrain d'entraînement et de déploiement pour l'intelligence artificielle générative. La firme de Mountain View justifie cette intégration massive par une nécessité technique : l'IA générative exige des volumes considérables de données, et Google en dispose via ses centaines de millions d'utilisateurs actifs. Concrètement, Gemini peut accéder au contenu des emails, des documents et des fichiers personnels stockés dans les services Google. Ce déploiement soulève des questions sérieuses de confidentialité, d'autant plus que les règles de rétention des données varient selon la façon dont l'utilisateur accède à l'IA, une complexité délibérée qui rend difficile toute évaluation claire des risques. Tenter de se soustraire à la collecte de données expose les utilisateurs à ce que les experts en UX appellent des "dark patterns" : des éléments d'interface conçus pour décourager les refus, orienter vers le consentement par défaut et rendre la désinscription intentionnellement fastidieuse. Cette situation illustre une tension croissante entre les intérêts commerciaux des grandes plateformes technologiques et le droit des utilisateurs à contrôler leurs données. Alors que la bulle de l'IA générative suscite un scepticisme grandissant dans une partie de l'industrie, Google accélère son intégration au risque d'alimenter les critiques des régulateurs européens et américains déjà attentifs aux pratiques anticoncurrentielles et aux violations potentielles du RGPD. La question de savoir si les utilisateurs disposent d'un vrai choix ou d'une simple illusion de choix devient centrale.

UELes pratiques de collecte de données de Google via Gemini exposent des centaines de millions d'utilisateurs européens à des risques de violation du RGPD, les dark patterns rendant la désinscription délibérément fastidieuse et la rétention des données opaque.

ÉthiqueReglementation
1 source
L’IA entre dans les fonds : pourquoi la question n’est plus la productivité mais la gouvernance
2FrenchWeb 

L’IA entre dans les fonds : pourquoi la question n’est plus la productivité mais la gouvernance

L'intelligence artificielle s'impose désormais comme un sujet de gouvernance au sein des fonds de capital-risque, et non plus seulement comme un outil d'efficacité opérationnelle. C'est le constat central de cette troisième analyse publiée par FW.MEDIA dans sa série consacrée à l'IA dans l'industrie du venture capital. Après avoir examiné les raisons pour lesquelles les fonds doivent se saisir du sujet et les risques liés à une posture attentiste, puis avoir passé en revue les usages concrets et les outils disponibles, la réflexion entre désormais dans une phase plus structurelle : comment encadrer, piloter et responsabiliser l'usage de l'IA au sein de ces organisations. L'enjeu n'est plus de démontrer que l'IA peut faire gagner du temps à un analyste ou automatiser la veille sur les startups du portefeuille. Il s'agit maintenant de savoir qui décide des cas d'usage autorisés, comment protéger les données confidentielles des LP et des sociétés en portefeuille, et qui porte la responsabilité en cas d'erreur algorithmique dans un processus d'investissement. Pour des acteurs qui gèrent des flux d'information hautement sensibles et des décisions à fort impact financier, ces questions de gouvernance deviennent critiques. Ce tournant reflète une maturité croissante du secteur face à l'IA : la phase d'expérimentation tactique cède la place à une intégration stratégique. Les fonds pionniers ont testé, les résultats ont convaincu, et la pression des LP pour une adoption raisonnée se fait plus forte. La prochaine bataille se jouera sur les politiques internes, les audits et la traçabilité des décisions augmentées par l'IA.

UELes fonds de capital-risque européens sont directement concernés par ces enjeux de gouvernance IA, notamment en matière de protection des données confidentielles des LP soumises au RGPD et de traçabilité des décisions d'investissement augmentées par l'IA.

💬 La vraie question n'est plus "est-ce que l'IA aide nos analystes", c'est "qui signe quand l'IA se plante sur un deal". C'est le genre de bascule qui arrive quand les LP commencent à demander des comptes, et visiblement c'est maintenant. Les fonds vont se différencier sur leurs politiques internes et leur capacité d'audit, pas sur leurs outils, et c'est probablement plus sain comme critère de sélection.

ÉthiqueOpinion
1 source
Ces avocats ont laissé l’IA rédiger leurs dossiers, la juge les sanctionne et annule le procès
3Le Big Data 

Ces avocats ont laissé l’IA rédiger leurs dossiers, la juge les sanctionne et annule le procès

Une juge fédérale du Mississippi, Sharion Aycock, a annulé un procès et sanctionné quatre avocats après avoir découvert que les deux parties avaient utilisé des outils d'intelligence artificielle pour rédiger leurs mémoires juridiques, sans vérifier les contenus produits. L'affaire opposait l'avocat Tom Withers à la ville d'Aberdeen dans l'État du Mississippi, Withers réclamant des honoraires impayés. Les représentants des deux camps ont reconnu avoir délégué une partie de leur travail de recherche juridique à des systèmes automatisés, et avoir soumis ces documents au tribunal sans contrôle sérieux. La juge a suspendu la procédure, interdit deux des avocats de plaider pendant deux ans et infligé des amendes allant de 1 000 à 3 500 dollars selon le niveau de responsabilité de chacun. Ce qui rend cette affaire particulièrement grave, c'est qu'elle ne concerne pas des particuliers sans formation juridique tentant maladroitement de se défendre seuls, mais des professionnels du droit expérimentés. Depuis l'émergence de modèles comme ChatGPT, les tribunaux américains voient se multiplier les dossiers contenant des références juridiques inventées, des citations inexistantes et des faits erronés générés par des intelligences artificielles. Que des avocats professionnels commettent les mêmes erreurs que des justiciables non formés envoie un signal alarmant à toute la profession. Dans son ordonnance, la juge Aycock a expressément évoqué les « délires liés à l'intelligence artificielle », une formule qui traduit son exaspération face à la fréquence croissante de tels incidents. La simultanéité des fautes des deux parties est par ailleurs exceptionnelle : il est rarissime que des avocats adverses soient sanctionnés en même temps pour des comportements identiques. Le phénomène s'inscrit dans une tendance documentée à grande échelle. Le juriste Damien Charlotin, qui recense les cas de documents judiciaires contenant des éléments fabriqués par l'IA, a déjà répertorié 1 598 cas. Les juges américains sont désormais contraints d'exercer une vigilance accrue pour détecter les références fictives avant qu'elles ne s'intègrent dans des décisions de justice et ne créent des précédents corrompus. Car une citation inventée, si elle passe inaperçue, peut influencer durablement l'interprétation du droit. Cette affaire soulève une question qui dépasse les prétoires : à mesure que les outils d'IA s'imposent dans les professions réglementées, qui est responsable de la vérification des contenus produits ? La réponse de la juge Aycock est claire : l'avocat qui signe le document, quels que soient les outils qu'il a utilisés pour le préparer.

UELes avocats et professionnels du droit français et européens sont exposés aux mêmes risques liés aux hallucinations IA dans les documents judiciaires, bien qu'aucune sanction équivalente n'ait encore été prononcée dans l'UE.

ÉthiqueOpinion
1 source
Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant
4Ars Technica AI 

Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant

Une confusion a récemment agité les utilisateurs de Chrome sur ordinateur : certains ont constaté que leur navigateur téléchargeait discrètement un modèle d'intelligence artificielle de 4 Go, le Gemini Nano de Google. Sur les réseaux sociaux, la découverte a été interprétée comme un déploiement massif et soudain d'IA sur toutes les installations Chrome. En réalité, ce comportement n'a rien de nouveau. Google avait annoncé dès 2024 l'intégration de capacités d'IA locale dans Chrome, destinées à alimenter des fonctionnalités comme "Help Me Write" (aide à la rédaction), l'organisation automatique des onglets et la détection des tentatives d'arnaque. Le modèle est téléchargé en arrière-plan depuis plusieurs années déjà, ce n'est pas une nouveauté technique, mais une nouveauté dans la perception des utilisateurs. Ce que cet épisode révèle avant tout, c'est l'incapacité chronique de Google à communiquer clairement sur ses déploiements d'IA. L'entreprise intègre des modèles lourds dans ses produits sans informer explicitement les utilisateurs, ce qui génère régulièrement des incompréhensions et une méfiance justifiée. Pour les 4 milliards d'utilisateurs de Chrome dans le monde, la question de ce qui tourne en local sur leur machine, et pourquoi, est pourtant loin d'être anodine, notamment sur des appareils aux ressources limitées. Ce flou s'inscrit dans une tendance plus large chez Google, qui multiplie les annonces d'IA sans toujours en expliquer les implications concrètes. Chrome embarque désormais bien d'autres fonctionnalités alimentées par Gemini : un chatbot en mode écran partagé, ainsi qu'une capacité à automatiser la navigation web. Le traitement local via Gemini Nano vise à préserver la confidentialité des données en évitant les allers-retours vers les serveurs cloud, un argument de poids face aux critiques sur la vie privée. Reste que sans transparence sur ce qui est installé, quand et pourquoi, la confiance des utilisateurs risque de s'éroder plus vite que les bénéfices de ces fonctionnalités ne s'imposent.

UELes centaines de millions d'utilisateurs européens de Chrome sont concernés par ce manque de transparence de Google sur le déploiement silencieux de Gemini Nano, une pratique potentiellement en tension avec les obligations d'information du RGPD.

ÉthiqueOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic