Aller au contenu principal
SociétéNext INpact · 2 min de lecture

L’IA générative empêche d’admettre que nous ne savons pas

Source originale ↗·

Une étude publiée en preprint par le chercheur en informatique Walter Quattrociocchi, associé à Chiara Marcoccia et Valerio Capraro, révèle que l'accès à une intelligence artificielle pousse les utilisateurs à ne quasiment plus jamais admettre leur ignorance, même quand cela les conduit à se tromper davantage. Les trois chercheurs ont soumis 3 132 participants à six questions pointues sur le cinéma, portant sur des détails visuels difficiles à retrouver pour un humain mais propices aux hallucinations d'un modèle de langage, comme la couleur d'un maillot dans « Joue-la comme Beckham ». Ils ont volontairement utilisé Step 3.5 Flash, un modèle dont ils savaient que la totalité des réponses fournies seraient erronées. Un premier groupe répondait seul, un second pouvait interroger l'IA. Résultat : 44 % des membres du groupe témoin ont répondu « je ne sais pas », contre seulement 3 % de ceux ayant consulté l'IA. Le taux de bonnes réponses est passé de 27 % à 9 % entre les deux groupes, tandis que le niveau de confiance déclaré a bondi de 30 % à 76 %. Des incitations financières récompensant l'exactitude n'ont amélioré les résultats que marginalement.

Ces chiffres illustrent un mécanisme préoccupant : l'IA générative ne se contente pas de donner de mauvaises réponses, elle convainc aussi ses utilisateurs qu'ils ont raison. Près d'un tiers des participants du second groupe auraient pu répondre correctement s'ils n'avaient pas consulté l'IA, mais la simple présence d'une réponse formulée avec assurance a suffi à effacer leur doute initial. Ce phénomène touche directement à la capacité de jugement, cette faculté à savoir reconnaître les limites de ses propres connaissances, considérée par Quattrociocchi comme l'un des fondements du raisonnement humain. Pour des professionnels amenés à s'appuyer sur des assistants IA dans leur travail quotidien, l'étude suggère un risque concret de dégradation silencieuse de la fiabilité des décisions, masqué par un sentiment de compétence artificiellement gonflé.

Cette recherche prend un relief particulier alors que le gouvernement français a annoncé l'introduction, dès la rentrée prochaine, d'une heure hebdomadaire de cours d'intelligence artificielle pour les élèves de seconde. Elle rejoint les travaux plus larges de Quattrociocchi sur la désinformation et la post-vérité, dont il a déjà tiré trois ouvrages, et pose la question de la manière dont l'éducation au numérique devrait intégrer un apprentissage explicite du doute face aux réponses générées par IA. Les résultats interrogent aussi la conception même des interfaces conversationnelles, souvent pensées pour délivrer une réponse assurée plutôt que pour exprimer une incertitude, alors que cette dernière serait pourtant plus fidèle à la réalité des capacités du modèle.

Impact France/UE

Cette etude interroge directement le contenu du futur enseignement obligatoire de l'IA en classe de seconde annonce par le gouvernement francais.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

L’IA générative ne créera pas le prochain GTA toute seule
1Next INpact 

L’IA générative ne créera pas le prochain GTA toute seule

Selon l'enquête annuelle présentée à la Game Developers Conference (GDC) 2025, 36 % des professionnels du jeu vidéo utilisent désormais des outils d'intelligence artificielle générative dans leur travail quotidien. Le sondage, réalisé auprès de 2 300 personnes, révèle que cet usage se concentre surtout dans les équipes de marketing, de support et de relations presse (58 %), tandis que 30 % des développeurs y recourent directement. Pourtant, deux figures majeures de l'industrie ont pris la parole pour recadrer les attentes. Peter Molyneux, le créateur britannique de Populous, Fable et Black & White, aujourd'hui âgé de 66 ans et en train de finaliser Masters of Albion qu'il présente comme son ultime projet, a déclaré à la BBC que "la qualité de l'IA n'est pas suffisante pour que nous puissions réellement l'utiliser dans les jeux pour le moment". Strauss Zelnick, PDG de Take-Two Interactive, éditeur de GTA, NBA 2K et BioShock, abonde dans le même sens : l'IA peut aider à produire des storyboards plus vite, explorer des alternatives narratives ou identifier des fils d'intrigue, mais l'idée qu'un simple clic suffise à générer un succès mondial est, selon ses mots, "risible". Ces prises de position ont un poids considérable dans un secteur où les discours sur l'IA oscillent souvent entre utopie et panique. Ce que disent Molyneux et Zelnick, c'est que l'IA reste un outil d'assistance, pas un substitut à la créativité humaine. Zelnick illustre la limite avec une analogie parlante : la musique générée par IA "ressemble à une chanson, mais je vous mets au défi de l'écouter plus d'une fois". Pour les joueurs, cela signifie que les grandes productions continueront d'être conçues par des équipes humaines. Pour les studios, cela valide une approche prudente où l'IA sert à prototyper plus vite ou à tester des chemins scénaristiques, comme Larian Studios, créateur de Baldur's Gate 3, l'avait déjà indiqué en décembre dernier. La même enquête GDC précise que 81 % des utilisateurs d'IA dans l'industrie s'en servent pour de la recherche et du brainstorming, tandis que seulement 19 % l'emploient pour générer des assets graphiques ou sonores. Ce débat émerge dans un contexte où les promesses technologiques se heurtent à la réalité du développement. Fin janvier 2025, Google avait pourtant agité les esprits en dévoilant le "Project Genie", un prototype capable de générer des mondes ouverts interactifs à partir d'une simple image ou d'une requête textuelle. La démonstration était impressionnante, mais les observateurs s'accordent à dire qu'on est très loin d'un jeu abouti. Pendant ce temps, des acteurs opportunistes tentent déjà de commercialiser des titres entièrement produits par IA, code et visuels inclus, tandis que la boutique de la console Playdate a choisi d'interdire purement et simplement les contenus générés par IA dans les jeux qu'elle distribue. L'industrie semble donc se stabiliser autour d'un consensus pragmatique : l'IA comme accélérateur de production, jamais comme remplaçant du talent.

UELes studios de jeux vidéo européens sous pression d'adopter l'IA disposent d'un cadrage pragmatique issu de figures de l'industrie : l'IA comme accélérateur de production, non comme substitut au talent humain.

SociétéOpinion
1 source
Après 3 ans d’IA générative, un marché de l’emploi des développeurs touché mais pas coulé
2Next INpact 

Après 3 ans d’IA générative, un marché de l’emploi des développeurs touché mais pas coulé

Trois ans après l'émergence de ChatGPT, les premières données statistiques sérieuses sur l'impact de l'IA générative sur l'emploi des développeurs commencent à dessiner une tendance claire. L'INSEE, dans une note de conjoncture récente, relève qu'aux États-Unis, l'emploi dans les services de conception de systèmes informatiques recule depuis deux années consécutives : -1,2 % en 2024, puis -1,6 % en 2025. Dans le secteur plus large des activités spécialisées, scientifiques et techniques, la croissance s'est effondrée, passant de +2,5 % en 2023 à -0,2 % en 2025. Dans le même temps, la productivité apparente dans ces secteurs s'est améliorée, signe que moins de salariés produisent autant, voire plus. Un rapport de la Réserve fédérale américaine publié en mars 2025 arrive à des conclusions similaires par une méthode différente : en simulant l'évolution du marché sans l'essor des grands modèles de langage, les chercheurs estiment qu'environ 500 000 emplois de développeurs supplémentaires auraient été créés depuis novembre 2022. L'écart entre la trajectoire réelle et la trajectoire simulée ne s'est creusé significativement qu'à partir de mi-2024, coïncidant avec la diffusion massive d'outils comme Claude Code, Codex ou Cursor. Ces chiffres ne signifient pas pour autant que 500 000 développeurs se retrouvent au chômage. La Fed souligne elle-même que les résultats ne doivent pas être interprétés comme une suppression nette d'emplois : de nombreux développeurs ont pu migrer vers des postes de management, de product, ou vers des métiers qui intègrent désormais des compétences techniques sans porter le titre explicite de "développeur". Ce qui change, c'est surtout la demande de nouveaux postes, notamment juniors, qui stagne dans les industries traditionnellement grandes consommatrices de développeurs, là où elle aurait dû continuer à croître. Le risque à moyen terme est structurel : moins de juniors recrutés aujourd'hui, c'est mécaniquement moins de seniors disponibles dans cinq à dix ans. L'industrie de l'IA générative elle-même ne compense pas encore les pertes. La Fed chiffre à moins de 15 000 le total des effectifs d'OpenAI, Anthropic et Google DeepMind réunis, dont une fraction seulement sont des développeurs. Même en multipliant par six pour intégrer les startups et les équipes IA de Meta, Microsoft ou ailleurs, on n'atteint pas 2 % des développeurs américains. La France observe des dynamiques comparables, selon les données mentionnées par l'article. Le tableau qui se dessine est donc celui d'un marché ni effondré ni inchangé, mais structurellement réorienté : l'IA compresse la demande de code répétitif et junior, tout en déplaçant la valeur vers des profils capables de piloter, superviser et orienter ces outils, une transition qui laisse peu de place à l'attentisme.

UELa France connaît des dynamiques comparables selon l'article, avec une stagnation des recrutements juniors qui menace le renouvellement des compétences techniques dans les entreprises françaises à un horizon de cinq à dix ans.

💬 500 000 emplois qui ne se sont pas créés, c'est pas du tout la même chose que 500 000 licenciements, et c'est une distinction qui compte vraiment. Le vrai problème, c'est le pipeline junior qui se bouche : les boîtes recrutent moins d'entrées de gamme, ça se voit pas maintenant, mais dans dix ans il va manquer des seniors. Pas spectaculaire comme scénario, mais bien plus vicieux.

SociétéPaper
1 source
Et si l’IA permettait d’augmenter le nombre d’emplois, plutôt que de les supprimer ?
3Next INpact 

Et si l’IA permettait d’augmenter le nombre d’emplois, plutôt que de les supprimer ?

Une nouvelle étude menée conjointement par la fintech Ramp et le cabinet de recherche Revelio Labs vient nuancer le récit dominant sur les destructions d'emplois liées à l'intelligence artificielle. En croisant les données de dépenses en IA de Ramp avec les données d'effectifs de Revelio Labs sur 22 000 entreprises américaines, les auteurs constatent que les sociétés ayant le plus investi dans l'IA affichent une croissance de leurs effectifs nettement supérieure à celle des autres, y compris sur les postes juniors. Cette tendance concerne surtout les entreprises dites « adopteuses de haute intensité », qui dépensent en moyenne 30 dollars par employé et par mois en IA dès leurs trois premiers mois d'usage. Sur deux ans, ces entreprises enregistrent une croissance de 10,2 % de leur effectif global et de 12 % de leurs effectifs juniors, avec des effets qui se manifestent typiquement six à douze mois après l'adoption, le temps que les équipes intègrent les outils dans leurs pratiques et que l'entreprise dégage les moyens de recruter davantage. Ce résultat vient complexifier un débat jusqu'ici dominé par les craintes de suppressions massives de postes. Les auteurs relèvent que la hausse des effectifs touche des métiers pourtant considérés comme très exposés à l'automatisation par l'IA, comme l'ingénierie, la vente, le service client ou la finance, alors que les entreprises investissant peu dans ces technologies ne montrent aucune variation notable de leurs effectifs. Le secteur de l'information (médias, éditeurs de logiciels) ressort comme celui affichant le lien le plus fort entre adoption de l'IA et croissance des embauches, un signal potentiellement rassurant pour une industrie qui redoutait particulièrement les effets de l'IA générative sur ses emplois éditoriaux et techniques. Les auteurs de l'étude appellent toutefois à la prudence sur l'interprétation causale de ces chiffres. Le profil des entreprises classées comme « adopteuses de haute intensité » est en effet particulier avant même leur recours à l'IA : elles sont généralement plus grandes, plus techniques, en croissance plus rapide, mieux financées par du capital-risque et proposent des salaires plus élevés que la moyenne du panel étudié. Ce type de structure est aussi beaucoup plus rare dans des secteurs comme la construction, la santé, l'art et le divertissement ou l'hôtellerie-restauration. Difficile, dans ces conditions, de trancher si c'est bien l'adoption de l'IA qui stimule l'embauche, ou si cette adoption n'est qu'un symptôme parmi d'autres d'une dynamique de croissance déjà engagée, portée par le financement en capital-risque et la présence d'équipes d'ingénierie, elle-même identifiée par l'étude comme un facteur déterminant dans la probabilité d'adopter ces outils.

💬 Cette étude, faut la lire à l'envers : ce ne sont pas les boîtes qui embauchent parce qu'elles adoptent l'IA, ce sont les boîtes qui embauchaient déjà (bien financées, techniques, en croissance) qui adoptent l'IA en premier. Les auteurs le disent eux-mêmes, et c'est le point qu'on va oublier dans les résumés qui vont circuler. Selon Le Fil IA, cette étude ne prouve pas que l'IA crée des emplois, elle prouve surtout qui a les moyens de l'adopter tôt.

SociétéPaper
1 source
Canon, Sony, Nikon… pourquoi ils refusent tous l’IA générative ?
4Le Big Data 

Canon, Sony, Nikon… pourquoi ils refusent tous l’IA générative ?

Canon, Sony, Nikon, Fujifilm, Panasonic, Sigma et OM System ont affiché, fin mars 2026, une position commune et quasi unanime : l'intelligence artificielle générative n'a pas sa place dans un appareil photo. Cette convergence de vue, relayée par une analyse de Zorz Studios publiée le 31 mars, est remarquable dans un secteur où la concurrence est féroce. Ces fabricants ne rejettent pas l'IA en bloc — Sony l'utilise depuis des années pour l'autofocus, la détection de sujets ou la réduction du bruit — mais ils tracent une ligne claire : une image créée de toutes pièces par un algorithme n'est plus une photographie. C'est une image générée. La distinction, pour eux, est fondamentale et non négociable. L'enjeu dépasse la sémantique. Si l'IA générative s'impose dans les boîtiers, il deviendra impossible de distinguer une photo authentique d'une image fabriquée — ce qui menace directement le photojournalisme, la preuve visuelle judiciaire et la crédibilité des contenus sur les réseaux sociaux. Sony, conscient de ce risque, s'implique déjà dans des initiatives de certification de contenu : des systèmes capables d'attester qu'une image a bien été capturée par un appareil physique, sans intervention générative. La capacité à certifier l'authenticité d'une photo pourrait rapidement devenir un avantage concurrentiel décisif, à mesure que la méfiance du public envers les images numériques s'installe durablement. Pour les marques traditionnelles, la fiabilité devient un argument produit à part entière. Il y a aussi une logique de marché derrière ce positionnement. Les fabricants d'appareils photo s'adressent à un public — amateurs exigeants et professionnels — qui valorise la maîtrise technique, l'intention derrière la prise de vue, et toute la chaîne créative de la capture au traitement RAW. Introduire une IA générative reviendrait à court-circuiter cette expérience et à rapprocher l'appareil photo du smartphone, terrain sur lequel des acteurs comme Apple ou Google disposent d'une avance considérable. Les marques comme Sigma ou OM System revendiquent explicitement cette dimension artisanale comme marqueur d'identité. Ce refus n'est pas pour autant définitif : les fabricants reconnaissent que des usages périphériques — retouche assistée en post-production, outils créatifs hors boîtier — pourraient évoluer. Mais dans l'appareil lui-même, la frontière entre capturer le réel et le fabriquer reste, pour l'instant, infranchissable.

UELa certification d'authenticité des images défendue par ces fabricants pourrait s'articuler avec les obligations de transparence du règlement européen sur l'IA (AI Act), notamment pour le photojournalisme et la preuve visuelle dans les procédures judiciaires européennes.

SociétéOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic