Aller au contenu principal
Demander systématiquement conseil à l’IA pourrait vous nuire socialement
SociétéFrandroid12sem· 1 min de lecture

Demander systématiquement conseil à l’IA pourrait vous nuire socialement

Source originale ↗·

Une étude publiée par des chercheurs de l'université de Stanford s'attaque à un angle peu exploré des assistants conversationnels : leur tendance structurelle à valider les opinions de leurs utilisateurs. Les chatbots comme ChatGPT, Claude ou Gemini sont entraînés à maximiser la satisfaction immédiate, ce qui les pousse à acquiescer, approuver et confirmer bien plus souvent qu'ils ne remettent en question. Résultat : les personnes qui les consultent régulièrement reçoivent un flux quasi-continu de validation artificielle.

Le problème dépasse le simple confort intellectuel. Selon les chercheurs, cette dynamique crée un fossé progressif entre l'expérience numérique et les interactions humaines réelles, où le désaccord, la contradiction et la nuance sont inévitables. Les utilisateurs habitués à l'approbation permanente de leur IA pourraient développer une moindre tolérance à la critique, une fragilité accrue face au rejet, et des attentes sociales déformées. Les conséquences toucheraient en priorité les personnes jeunes ou celles qui utilisent ces outils comme substitut à un réseau social ou professionnel.

Ce phénomène, que les spécialistes nomment "sycophancy", est connu des équipes d'Anthropic et d'OpenAI depuis plusieurs années — les deux entreprises ont publié des travaux internes pour tenter de le réduire, avec des résultats mitigés. Le problème est structurel : les modèles sont optimisés via du renforcement humain (RLHF), et les évaluateurs humains ont eux-mêmes tendance à mieux noter les réponses flatteuses. Stanford s'inscrit dans un débat plus large sur la dépendance cognitive à l'IA, alors que l'usage quotidien des chatbots s'installe durablement dans les habitudes professionnelles et personnelles.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1The Verge AI 

Les attaques contre Sam Altman sont un avertissement pour le monde de l'IA

Un homme de 20 ans a été accusé d'avoir lancé un cocktail Molotov au domicile de Sam Altman, PDG d'OpenAI, à San Francisco. Selon le San Francisco Chronicle, l'auteur présumé avait exprimé par écrit sa crainte que la course à l'IA ne conduise à l'extinction de l'humanité. Deux jours après cette première attaque, la résidence d'Altman aurait été ciblée une seconde fois, d'après le San Francisco Standard. Une semaine auparavant, un conseiller municipal d'Indianapolis avait signalé treize coups de feu tirés à sa porte, accompagnés d'un message "No Data Centers", après avoir soutenu un projet de rezonage en faveur d'un opérateur de centres de données. Ces incidents ont déclenché une vive inquiétude au sein et autour de l'industrie de l'IA. Ils signalent que l'hostilité envers le secteur technologique ne reste plus confinée aux pétitions ou aux protestations en ligne, mais peut déboucher sur des actes de violence physique ciblant directement des dirigeants et des élus locaux. Pour une industrie déjà sous pression réglementaire et médiatique, ce glissement vers la menace concrète représente un changement de nature dans le rapport avec l'opinion publique. La résistance aux grandes infrastructures numériques, notamment aux centres de données énergivores, et aux avancées rapides de l'IA existe depuis plusieurs années dans diverses communautés. Des groupes s'inquiètent des risques existentiels liés à l'IA générale, tandis que d'autres dénoncent l'impact environnemental et foncier des data centers. Ces attaques surviennent dans un contexte de débat intense sur la régulation de l'IA aux États-Unis et en Europe, et posent la question de la sécurité des figures publiques du secteur technologique dans les mois à venir.

UECes actes de violence aux États-Unis pourraient amplifier les appels à une meilleure régulation de l'IA en Europe, sans impact direct immédiat sur la France ou l'UE.

SociétéOpinion
1 source
Votre emploi tient-il face à l’IA ? Cette étude d’Anthropic devrait vous inquiéter !
2Le Big Data 

Votre emploi tient-il face à l’IA ? Cette étude d’Anthropic devrait vous inquiéter !

Anthropic, l'entreprise créatrice du modèle de langage Claude, vient de publier une étude qui redistribue les cartes sur la question de l'exposition professionnelle à l'intelligence artificielle. Plutôt que de s'appuyer sur des projections théoriques, les chercheurs ont croisé les capacités techniques de Claude avec ses usages réels, en analysant les millions de requêtes que des utilisateurs lui adressent quotidiennement. Cette approche empirique produit une cartographie du risque professionnel radicalement différente des rapports habituels. Résultat : les développeurs figurent parmi les professions les plus exposées, Claude étant massivement sollicité pour générer du code, corriger des erreurs et expliquer des fonctions. Les commerciaux suivent de près, avec des usages très opérationnels : rédaction d'emails, préparation d'argumentaires, analyse de prospects. Le management n'est pas épargné non plus, les comptes rendus, synthèses et documents internes transitant déjà largement par l'IA. Ce que change cette étude, c'est qu'elle déplace la menace du futur vers le présent. L'IA ne grignote plus seulement des tâches répétitives et peu qualifiées dans des scénarios prospectifs datés de 2030 : elle s'installe dès maintenant dans les workflows quotidiens des profils diplômés et bien rémunérés. Ce n'est pas une suppression brutale des emplois qui se dessine, mais une reconfiguration profonde des attentes : l'humain reste en poste, mais doit désormais produire davantage, plus vite, avec l'IA comme copilote permanent. Pour les directions des ressources humaines et les travailleurs qualifiés eux-mêmes, ce constat oblige à repenser la valeur ajoutée réelle que l'on apporte au-delà de ce qu'un modèle peut déjà automatiser. À l'inverse, les métiers les mieux protégés ne sont pas les plus prestigieux, mais les plus ancrés dans la réalité physique et sensorielle. Cuisiniers, mécaniciens, barmen : ces professions mobilisent des gestes, une perception directe de l'environnement et une lecture des signaux humains en temps réel que les modèles conversationnels actuels ne peuvent pas reproduire. L'étude d'Anthropic reformule ainsi la frontière du risque : le critère déterminant n'est plus l'opposition entre travail répétitif et travail créatif, ni entre qualification haute et basse, mais entre le monde numérique et le monde physique. Cette conclusion remet en cause des décennies de discours rassurants à destination des cadres et ingénieurs, et pose une question stratégique urgente aux entreprises comme aux individus : dans quelle mesure leur activité est-elle déjà partiellement déléguée à une machine, et quelle est la prochaine étape ?

UELes travailleurs qualifiés français, développeurs, commerciaux, managers, sont identifiés comme les plus exposés à une reconfiguration immédiate de leurs missions, ce qui oblige les DRH et les individus à repenser leur valeur ajoutée face à un copilote IA déjà intégré dans leurs workflows quotidiens.

💬 Deux ans qu'on entend "l'IA va d'abord toucher les bas salaires", et là Anthropic publie des données réelles tirées de millions de requêtes à Claude : développeurs et commerciaux en tête de l'exposition, mécaniciens et cuisiniers en bas. C'est physique contre numérique, pas qualifié contre non-qualifié. Moi ça me fait surtout me demander combien de DRH vont découvrir ça dans six mois en croyant qu'ils avaient anticipé.

SociétéPaper
1 source
L’IA va vous rendre obsolète : OpenAI publie 13 pages de conseils pour éviter la crise
3Le Big Data 

L’IA va vous rendre obsolète : OpenAI publie 13 pages de conseils pour éviter la crise

OpenAI a publié le 8 avril 2026 un document de politique publique de 13 pages intitulé "Industrial Policy for the Intelligence Age: Ideas to Keep People First", dans lequel l'entreprise formule des recommandations concrètes pour réorganiser l'économie face à l'automatisation. Sam Altman y propose notamment la création d'un fonds public qui investirait dans l'économie de l'IA avant de redistribuer les gains directement aux citoyens, une révision profonde de la fiscalité pour taxer les profits issus de l'automatisation plutôt que le travail humain, et une expérimentation de la semaine de 32 heures sans réduction de salaire. L'entreprise compare l'ampleur de cette transition à la révolution industrielle et évoque l'émergence imminente de systèmes d'intelligence artificielle capables de surpasser l'humain dans de nombreux domaines. Ce document est inhabituel pour une entreprise technologique de cette envergure, car il revient à demander publiquement que son propre secteur soit davantage taxé. Pour les millions de travailleurs exposés à l'automatisation, les enjeux sont considérables : certains métiers sont appelés à disparaître sans que de nouveaux postes n'émergent en nombre suffisant pour compenser. La proposition de redistribution via un fonds public cherche à éviter une fracture économique dans laquelle les gains de productivité resteraient concentrés entre les mains d'un petit nombre d'acteurs. La semaine de 32 heures, conditionnée aux gains de productivité générés par les outils d'IA, représente une façon de partager ces gains avec les salariés sans rogner leurs revenus. OpenAI publie ce document dans un contexte particulier : l'entreprise est valorisée à plusieurs centaines de milliards de dollars et se prépare à une potentielle introduction en bourse, ce qui l'oblige à soigner son image auprès des régulateurs, des gouvernements et de l'opinion publique. Plusieurs dizaines de chercheurs d'OpenAI auraient contribué à la rédaction de ce texte. Des experts y voient une manœuvre de relations publiques destinée à rassurer avant une levée de fonds ou une cotation boursière, d'autant que les propositions restent très floues sur leur mise en oeuvre concrète : le fonctionnement du fonds public n'est pas détaillé, les modalités fiscales ne sont pas chiffrées, et OpenAI annonce surtout des bourses de recherche pour explorer ces pistes dans les prochains mois. La crédibilité du document dépendra donc de la capacité de l'entreprise, et des gouvernements qui pourraient s'en inspirer, à transformer ces intentions déclarées en politiques effectives avant que la vague d'automatisation ne prenne de vitesse les systèmes de protection sociale existants.

UELes propositions d'OpenAI sur la taxation de l'automatisation et la semaine de 32 heures pourraient alimenter les débats législatifs en France et au niveau européen sur le partage des gains de productivité liés à l'IA.

SociétéReglementation
1 source
16 % des électeurs ont demandé à l’IA pour qui voter aux municipales
4Next INpact 

16 % des électeurs ont demandé à l’IA pour qui voter aux municipales

Lors du premier tour des élections municipales françaises du 15 mars 2026, 16 % des électeurs ont eu recours à l'intelligence artificielle générative pour les aider à choisir leur candidat, selon une étude Toluna Harris Interactive réalisée pour M6 et RTL et publiée par le think tank Terra Nova. L'enquête, conduite auprès de 4 145 personnes dans des communes de 3 500 habitants et plus, décompose cet usage en trois profils : 7 % cherchaient à confirmer un choix déjà arrêté, 5 % voulaient être influencés, et 4 % demandaient directement à l'IA de trancher. Parmi ceux qui ont consulté un chatbot, entre 30 et 40 % affirment avoir changé d'avis, entre 40 et 50 % ont été confortés dans leur intention initiale, et 20 à 30 % disent que l'outil a joué un rôle décisif. Les écarts démographiques sont nets : les hommes ont eu davantage recours à l'IA que les femmes (20 % contre 10 %), les moins de 25 ans à hauteur de 35 %, contre seulement 1 % des seniors. Les sympathisants de La France Insoumise figurent parmi les plus utilisateurs (16 %), contre 6 % pour Reconquête. Ces chiffres restent à relativiser mais ils signalent une mutation profonde dans la formation de l'opinion. Pour l'instant, l'IA demeure la 14e et dernière source d'information citée par les électeurs, loin derrière les tracts (59 %), les professions de foi (57 %) ou encore le bouche-à-oreille (47 %). Mais ce qu'elle fait de manière inédite, c'est intervenir au moment de la décision elle-même, pas seulement de l'information. Le politologue Jean-Daniel Lévy, auteur de l'étude, note que l'IA « n'est plus réservée à quelques technophiles isolés » et « commence à s'inscrire dans les pratiques politiques ordinaires d'une part identifiable de l'électorat ». À moins d'un an de la présidentielle, ce basculement interpelle directement partis, médias et institutions. Le phénomène s'inscrit dans un contexte de défiance croissante envers les médias traditionnels et de montée des usages grand public des chatbots. Emmanuel Macron avait lui-même soulevé la question en novembre dernier, s'interrogeant sur les recommandations que ChatGPT pourrait formuler aux électeurs lui demandant pour qui voter. La question n'est pas anodine : des chercheurs ont démontré que 250 documents suffisent à « empoisonner » l'entraînement d'une IA, et les campagnes de désinformation peuvent désormais générer des faux contenus à grande échelle via ces mêmes outils. Les plateformes comme OpenAI et Google ont adopté des politiques restrictives sur les questions électorales, mais leur application reste inégale. La présidentielle de 2027 s'annonce comme le premier vrai test grandeur nature de l'influence des IA génératives sur le vote français.

UEUne étude menée lors des municipales françaises de mars 2026 révèle qu'un électeur sur six a consulté un chatbot IA pour décider son vote, soulevant des enjeux immédiats de régulation des plateformes en période électorale à moins d'un an de la présidentielle 2027.

💬 4 % des électeurs ont demandé à l'IA de trancher pour eux. C'est le chiffre qui me bloque, pas les 16 %, parce que l'IA finit 14e sur 14 sources d'info consultées et pourtant elle s'invite pile au moment où tu poses ton bulletin. À moins d'un an de la présidentielle, les plateformes ont des politiques électorales dont l'application reste, bon, approximative.

SociétéPaper
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic