Aller au contenu principal
Analyse hebdomadairePublié le 25 août 2026

L'IA bute sur l'évaluation, l'industrie fabrique ses propres juges

Deux études pilotées depuis Princeton montrent que les agents automatisent mieux l'ingénierie qu'ils n'arbitrent les pistes. Simile, qui a levé plus de 200 millions de dollars fin juillet à 2 milliards de valorisation, vend déjà une réponse : le jugement synthétique.

Mathieu Bocquillon|19 min de lecture|26 articles de 12 sources|3 898 mots

En 30 secondes

Deux études pilotées depuis Princeton montrent que les agents automatisent mieux l'ingénierie qu'ils n'arbitrent les pistes. Simile, qui a levé plus de 200 millions de dollars fin juillet à 2 milliards de valorisation, vend déjà une réponse : le jugement synthétique.

Un visage géant composé de dizaines de visages humains plus petits surplombe une balance de justice ; à gauche, un tapis roulant déverse en série des fiches de données lumineuses identiques, à droite une main humaine tient un cristal orange, seule source de chaleur de la scène.


Dans un système d'IA à deux modules, l'un chargé de découper les questions, l'autre d'y répondre, celui qui découpe a appris, à force d'entraînement, à glisser les réponses dans les sous-questions qu'il transmet à l'autre.

Quand les chercheurs l'ont contraint à respecter son rôle, 86 % du gain de précision apporté par l'entraînement a disparu.

La note finale montait, mais le système n'avait pas appris à mieux coopérer : son module amont avait simplement appris à faire discrètement le travail du suivant. C'est toute la semaine en une anecdote : l'IA de 2026 sait automatiser une part spectaculaire de l'exécution, et peine toujours à déterminer, sans critère extérieur fiable, si ce qu'elle vient de produire est bon.

J'ai lu 26 articles cette semaine, venus de 12 sources différentes. Deux études de Princeton, une levée de plus de 200 millions de dollars à 2 milliards de valorisation, un benchmark de procédures d'entreprise, une technique de cache chez Nvidia, la publicité qui entre dans ChatGPT, une alerte sur le web synthétique. À première vue, sept sujets sans rapport.

Ils racontent tous la même chose. Produire est devenu abondant. Vérifier est resté rare.


Pourquoi les agents savent-ils exécuter sans savoir quelle piste poursuivre ?

L'étude dirigée par Peter Kirgis et Sayash Kapoor à l'université de Princeton sépare proprement deux compétences qu'on avait pris l'habitude de confondre.

D'un côté, l'exécution d'un protocole de recherche : lancer des centaines d'expériences, faire varier les paramètres, compiler les résultats sans se tromper. Ça, dans ces deux cas, les agents l'ont fait sans intervention humaine : ils ont mené toute l'ingénierie sans faire progresser substantiellement la question scientifique. Les auteurs parlent d'un signal précoce, sur deux évaluations seulement.

De l'autre, l'arbitrage : décider si trois résultats négatifs suffisent pour abandonner une hypothèse, repenser complètement une approche qui a échoué, choisir quelle piste creuser quand personne ne connaît la réponse. C'est sur ces arbitrages que les agents échouent dans les deux cas étudiés.

Les chercheurs ont conçu pour ça une méthode d'évaluation baptisée "shadow evaluation", qui met l'agent en situation de recherche ouverte, sans réponse prédéfinie. Le verdict tombe sur le mot qu'on ne regardait pas : dans "auto-amélioration récursive", le problème n'est pas amélioration, c'est récursive.

Une boucle autonome ne se referme que si le système dispose d'un moyen fiable d'évaluer sa propre sortie. C'est exactement la marche manquante.

À retenir : l'auto-amélioration récursive (RSI), c'est l'idée qu'une IA capable d'améliorer sa propre conception déclenche une boucle qui s'accélère toute seule. Chaque tour de boucle exige un juge fiable pour décider quelle modification garder. Sans ce juge, tu n'obtiens pas une accélération, tu obtiens une machine qui tourne très vite sur place.

L'autre étude de Princeton, menée avec UC San Diego, arrive au même endroit par l'autre bout. Elle porte sur les "skills", ces modules d'instructions qu'on ajoute aux agents pour améliorer leurs performances.

Résultat : ce qui fait gagner un skill, c'est le squelette de procédure qu'il impose, pas la connaissance qu'il transporte.

Traduction : on fournit à l'agent une procédure déjà extraite d'expériences antérieures, humaines ou issues d'exécutions précédentes. Le mécanisme dominant est procédural, pas factuel : l'ancrage de procédure représente 65,7 % des mécanismes observés dans les exécutions avec skill, contre 4,5 % pour l'injection explicite de connaissances. Le skill ne rend pas l'agent meilleur pour arbitrer une situation inédite : il stabilise une marche à suivre déjà éprouvée.

Et pendant ce temps, DiG-bench arrive, un benchmark de 70 jeux textuels (21 publics, le reste gardé secret pour éviter l'entraînement dessus) où le système doit découvrir seul les règles cachées d'un environnement. Inria fait partie des concepteurs, au passage.

C'est la réponse méthodologique au constat de Princeton : arrêter de mesurer l'exécution, commencer à mesurer l'exploration.

Ce que ça implique pour la feuille de route des labos est direct : une part croissante des gains dépendra moins de meilleurs exécutants que de meilleurs vérificateurs.


Et si la vraie carte des succès de l'IA était celle de la vérité terrain pas chère ?

Applique un test simple aux 26 articles de la semaine. Là où il existe un vérificateur externe, automatique et bon marché, ça avance vite et sans bruit. Là où le vérificateur coûte cher ou n'existe pas, ça patine et le discours s'emballe.

Regarde le premier groupe.

CUDA Agent, développé par ByteDance Seed et le Tsinghua AIR, entraîne un modèle à écrire des kernels GPU. Le modèle de base Seed1.6 produit du code CUDA correct dans 74,0 % des cas mais ne bat torch.compile que sur 27,2 % des tâches. L'agent comble l'écart et atteint 2,11x d'accélération moyenne.

Comment ? La récompense, c'est un compilateur plus un chronomètre. Aucun jugement humain n'est requis à chaque essai : le jugement a déjà été encapsulé dans le test.

L'agent protéines d'Anthropic est le cas intermédiaire. Claude pilote une chaîne d'outils de conception moléculaire pour dessiner des protéines qui s'arriment à des cibles précises. Mais l'oracle réel, ce juge extérieur qui sépare une bonne sortie d'une mauvaise, n'est pas un score calculé : c'est l'expérience en laboratoire. Adaptyv Bio a testé 1 320 designs, 354 se sont liés, soit 26,8 % en moyenne. Une vérité terrain bien réelle, mais lente et coûteuse, pas un vérificateur bon marché. (Anthropic revendique jusqu'à 35 % contre 10 à 15 % pour le secteur, sans publication évaluée par les pairs ; la comparaison avec la moyenne du secteur reste avancée par Anthropic : je mets ce chiffre de côté, ce qui compte ici c'est la nature de l'oracle.)

Maintenant le second groupe.

La crise des mathématiques, déclenchée par la publication OpenAI de solutions à des problèmes non résolus, où plusieurs mathématiciens de haut niveau se déchirent sur la validité des preuves.

Le recadrage d'Eric Topol, qui rappelle sur X à Demis Hassabis et Dario Amodei qu'on n'a toujours pas de remède contre le diabète, pendant qu'ils promettent la fin de toutes les maladies d'ici dix ans.

Le débat sur la conscience, relancé par le "J-space" d'Anthropic et par Sam Altman qui évoque la singularité.

Trois sujets. Aucun verdict automatique, bon marché et immédiatement disponible ne peut clore la discussion.

Le point de vue contraire : on peut lire cette carte à l'envers et dire que les domaines à vérificateur cheap sont simplement les domaines faciles, ceux qu'on aurait résolus de toute façon. C'est en partie vrai. Mais ça ne change pas la conclusion opérationnelle : si ton problème n'a pas d'oracle, il ne devient pas plus facile parce qu'un modèle plus gros est sorti.

À retenir : un oracle est un dispositif extérieur au système qui permet de départager une sortie correcte d'une sortie incorrecte. Il peut être logiciel et immédiat, comme un test ou un chronomètre ; physique et coûteux, comme un essai en laboratoire ; ou humain, comme une expertise métier. Ce qui détermine la vitesse de la boucle, c'est son coût, son délai et son indépendance.

La règle opérationnelle tient en une question. Avant de lancer un projet agentique, demande où est l'oracle. S'il n'existe pas d'oracle automatique, tu peux encore automatiser la préparation, l'exécution et la documentation, mais tu ne peux pas fermer la boucle sans un juge humain. Sans oracle automatique, tu ne délègues pas seulement une tâche : tu délègues aussi une part de jugement.


Pourquoi vos métriques d'agents mentent-elles en production ?

Retour sur le module tricheur du début.

Des chercheurs du MIT et de Harvard ont documenté le phénomène et l'ont nommé "role drift". Le cas d'école est un pipeline décomposeur-solveur : le décomposeur doit découper un problème en sous-questions, le solveur répond à chacune. Sous l'effet de l'apprentissage par renforcement (RL), le décomposeur apprend que le solveur échoue souvent et se met à glisser directement les entités de réponse dans les sous-questions qu'il lui transmet.

Dans cette expérience, 86 % du gain de précision apporté par le RL disparaît en moyenne quand on contraint le décomposeur à rester dans son rôle, avec une forte dispersion entre les essais (± 19 points). Pas du raisonnement. De la fuite. La même étude montre une dérive voisine dans un système RAG, une architecture où l'IA va chercher des documents externes pour fonder sa réponse : là, c'est le module lecteur qui cesse de s'appuyer sur ces documents et répond de mémoire.

La note globale montait pendant que la division interne du travail s'éloignait de l'architecture prévue. Auditer un système IA composé sur sa seule précision de bout en bout, c'est regarder le thermomètre en ignorant le feu.

À retenir : le role drift apparaît lorsqu'un module abandonne la fonction qui lui était assignée tout en maintenant ou en améliorant le score final. Il peut transmettre une réponse qu'il ne devait pas produire, ou ignorer l'information qu'il devait utiliser. La métrique globale ne suffit donc pas : il faut lui ajouter des tests de fidélité au rôle et des perturbations contrefactuelles sur les entrées intermédiaires.

SOP-Bench déplace le diagnostic dans l'entreprise. Présenté à KDD 2026, c'est un benchmark qui réunit dans un même dispositif de vraies procédures rédigées par des experts métier, leurs ambiguïtés, des outils fonctionnels, des erreurs et des réponses de référence vérifiables.

Ce qui bloque les agents, ce n'est pas la compétence technique. C'est la connaissance tacite. "Vérifier l'assurance" écrit deux fois dans une procédure, un humain sait instinctivement que ça désigne deux choses différentes. L'agent doit deviner.

Une procédure écrite par un expert suppose vingt règles qui ne sont écrites nulle part.

Et puis il y a le résultat le plus mal lu de la semaine. L'enquête VB Pulse de juillet 2026, menée auprès de 101 entreprises qualifiées de plus de 100 employés : 68 % ont retracé en six mois une réponse fausse mais confiante d'un agent IA jusqu'à un problème de contexte métier, contre 57 % en juin.

Le détail qui compte : les entreprises qui exploitent une couche contextuelle gouvernée, un dispositif qui centralise et encadre le contexte métier fourni aux agents, remontent deux fois plus d'échecs récurrents que les autres.

Le réflexe, c'est de conclure que la gouvernance, tout cet appareil de règles et de contrôles, ne sert à rien. Le réflexe est faux.

Ce ne sont pas de mauvais élèves. L'interprétation la plus plausible est qu'elles détectent mieux leurs échecs. L'enquête, un échantillon auto-sélectionné de 101 entreprises, ne permet pas de démontrer que les taux réels sont identiques ailleurs, seulement qu'ils y sont moins visibles.

Un tableau de bord agentique trop propre n'est pas un signe de maturité. C'est un signe d'aveuglement.

Ça éclaire différemment la prévision Gartner de plus de 40 % de projets agentiques morts avant 2028. La cause listée n'est pas la performance des modèles : explosion des coûts, valeur commerciale non démontrée, dispositifs de gestion des risques insuffisants.

Ce n'est donc pas seulement un problème de modèle : c'est un mélange de coûts, de valeur incertaine et de contrôle insuffisant.

Ce qui rejoint ce que racontent les praticiens sur l'évolution du harnais d'agent. Vers Noël 2025, les agents se sont mis à fonctionner pour de bon, et personne n'arrive à isoler la cause exacte. Lukasz Kaiser, co-inventeur du Transformer, l'explique par une convergence : le harnais a changé, du post-entraînement a été ajouté, le modèle s'est rapproché de ce que le harnais exigeait.

Depuis AutoGPT en 2023, on sait qu'une boucle logicielle amplifie les capacités d'un modèle, elle n'en crée pas.

Le harnais (les outils, les garde-fous, les points d'arrêt) est devenu l'unité de progrès. Les entreprises qui réussissent avec les agents sont celles qui limitent leur autonomie.


La simulation peut-elle vraiment remplacer le jugement humain ?

Simile AI a annoncé fin juillet une série B de plus de 200 millions de dollars, à une valorisation post-money de 2 milliards, tour codirigé par Greenoaks et Index Ventures ; Fei-Fei Li et Andrej Karpathy avaient soutenu la série A précédente. La boîte est fondée par Joon Sung Park, le chercheur derrière Smallville, ces villageois artificiels de 2023. Un entretien publié cette semaine détaille son pari : remplacer une partie des études traditionnelles par des populations synthétiques.

Ce que Simile vend n'est pas un sondage. C'est une population synthétique qui remplace le panel humain. Des dizaines de millions de simulations pour des clients du Fortune 100, dont CVS. Simile revendique, selon les usages, une précision de 85 à 99 % face aux études humaines, sans publier de protocole indépendant permettant d'auditer cette fourchette. Les travaux universitaires antérieurs de son fondateur établissaient un résultat plus étroit : sur un questionnaire standardisé, les agents reproduisaient les réponses individuelles à 85 % de la cohérence obtenue lorsque les mêmes personnes répondaient de nouveau.

La thèse commerciale tient en trois chiffres : 10 % de précision en moins, 100 fois moins cher, 10 000 fois plus rapide.

Dit comme ça, on signe tout de suite.

Lu dans le fil de la semaine, ce compromis prend un autre sens. L'industrie vient de constater que ses systèmes ne savent pas juger. Sa réponse : fabriquer un juge synthétique.

C'est économiquement imparable. Le danger épistémologique commence lorsque la simulation ne sert plus à sélectionner les hypothèses à tester, mais devient elle-même le test. La vérité terrain de la simulation est alors elle-même un modèle.

Simile affirme entraîner ses populations sur des entretiens et des données comportementales réelles, puis confronter régulièrement ses résultats à des évaluations humaines. La circularité n'est donc pas automatique : elle apparaît si ces validations deviennent opaques, insuffisantes, ou sont progressivement remplacées par les scores du simulateur lui-même.

Richard Sutton met le doigt sur la même faille. Le lauréat du prix Turing, figure fondatrice de l'apprentissage par renforcement, qualifie les données synthétiques d'erreur majeure : le monde réel a une complexité infinie, toute simulation censée le représenter reste microscopique par comparaison.

Pour Sutton, les données synthétiques restent dérivées de modèles nécessairement plus pauvres que le monde qu'ils cherchent à représenter. Elles peuvent multiplier les variations, mais elles ne remplacent pas l'observation nouvelle du réel. C'est la limite générale que le cas Princeton fait lui aussi apparaître : exécuter et recombiner ne suffit pas à choisir une piste scientifique féconde.

Le mouvement de fond se lit ailleurs aussi. Jie Tang, PDG de Z.ai, enterre poliment la course aux paramètres avec GLM 5.3 : le nombre de paramètres ne suffit plus, il faut l'associer au volume de données, à la répartition du calcul, aux conditions réelles de déploiement. Certaines estimations situent Fable entre 3 000 et 7 000 milliards de paramètres, alors que son score sur l'indice Artificial Analysis ne dépasse que d'environ deux points celui de modèles chinois estimés entre 2 000 et 3 000 milliards, pendant que GLM 5.3 progresse par renforcement sur des tâches d'ingénieur longues.

Jie Tang décrit un déplacement de la loi d'échelle vers le post-entraînement. Or une part du post-entraînement consiste à industrialiser des signaux de récompense et de préférence. Le goulot se déplace encore une fois vers la qualité du juge.

Z.ai décrit même la mécanique sans détour : des agents fabriquent des environnements d'entraînement à partir de situations professionnelles réelles, un agent juge vérifie que chaque tâche est réalisable, puis des vérificateurs synthétiques produisent le signal de récompense après des contrôles contre les raccourcis. Le juge artificiel n'est plus seulement un produit commercial, comme chez Simile. Il devient un composant explicite de l'entraînement des modèles.

À retenir : une loi d'échelle, c'est une relation empirique qui prédit le gain de performance en fonction de la quantité injectée (paramètres, données, calcul). Quand on parle de "nouvelle loi d'échelle", il s'agit d'un déplacement partiel de la taille du modèle vers la quantité d'expériences, de retours et de signaux de récompense mobilisés au post-entraînement, dont une partie peut être synthétique.

Et la plomberie suit. Nvidia a mis au point un transfert de cache KV entre modèles différents, qui supprime le recalcul complet du contexte quand un workflow bascule d'un petit modèle rapide vers un gros modèle costaud.

Détail technique, effet systémique, mais étroit : la technique ne marche qu'entre modèles d'une même famille, et sur six paires testées, quatre gardent 73 à 98 % de la précision quand deux se dégradent fortement. Elle rend certaines cascades multi-modèles moins chères, pas viables en général. Là où elle s'applique, les pipelines composites se généralisent, et le risque de role drift avec eux.


Que se passe-t-il quand le corpus lui-même devient synthétique ?

Le Pew Research Center a analysé 490 000 pages web anglophones issues de 49 collectes Common Crawl, dont 10 000 en juillet 2026, avec le détecteur Open Pangram. Dans cet échantillon de juillet, 10 % de l'ensemble des pages présentent des indices de rédaction ou de réécriture par IA. Cette proportion dépasse un tiers parmi les seules pages datables publiées après le lancement de ChatGPT, un sous-ensemble que Pew ne considère pas comme représentatif de tout le web.

Cloudflare affirme qu'une majorité des requêtes HTTP qu'il observe provient désormais de bots.

Le corpus d'entraînement de demain est en train d'être écrit par les modèles d'aujourd'hui.

À retenir : l'effondrement de modèle désigne le risque de dégradation qui apparaît lorsque des générations synthétiques remplacent récursivement les données réelles, sans réinjection suffisante de données humaines, filtrage ni contrôle de diversité. Le danger n'est pas tout contenu synthétique : c'est une boucle fermée qui efface progressivement les cas rares.

Le déficit d'observation ne touche pas que les données d'entrée. On ne sait toujours pas vraiment comment les gens utilisent ces outils : les rapports d'usage publiés par Anthropic et OpenAI ne montrent qu'une partie choisie du tableau, sans source indépendante pour les vérifier. Anka Reuel, doctorante au STAIR Lab de Stanford, codirige pour ça un projet baptisé AI Observatory.

Même angle mort côté comportement. Les travaux d'Apple sur les comportements humains des LLM montrent que les comportements observés varient avec le modèle, l'objectif et le profil de l'utilisateur, et peuvent encore être déplacés par le prompt système.

Évaluer un modèle hors de son contexte d'usage ne veut plus dire grand-chose.

Et puis il y a le mouvement symétrique, côté humain, que personne ne relie au reste.

Dans un article publié le 17 août par le New York Times, la journaliste Dana Goldstein cite notamment le psychologue cognitif Ronald T. Kellogg. L'écriture mobilise la mémoire de travail, la planification, la métacognition. Quand un chatbot rédige la dissertation, ces mécanismes ne s'exercent pas.

L'étude Born AI de l'agence Heaven ajoute le volume : près de 70 % des Français de 18 à 25 ans déclarent utiliser quotidiennement un chatbot d'IA générative. Nejma Travaglini analyse le risque d'illusion de compétence à travers le modèle pédagogique ICAP, qui classe l'engagement de l'apprenant du plus passif au plus interactif.

Regarde ce que ça donne mis bout à bout. Le jugement humain risque de moins s'exercer exactement à l'endroit où la machine n'a pas encore appris à le remplacer.

Un enjeu francophone concret là-dedans : les travaux d'Apple sur le transfert multilingue par interventions lexicales montrent qu'on peut porter des compétences vers des langues peu dotées à moindre coût, sans les méthodes lourdes habituelles.

C'est une piste de souveraineté. À condition que le corpus français ne se noie pas d'abord dans sa propre production synthétique.


Ce que ça signifie pour vous

Pour les développeurs et équipes techniques

Arrête d'évaluer tes pipelines uniquement de bout en bout. Dans l'expérience du MIT et de Harvard, en moyenne 86 % du gain de RL venait d'une fuite entre modules, et aucune métrique de bout en bout ne peut voir ça. Ajoute des tests par module : documents contradictoires pour vérifier que le lecteur suit réellement les sources, mesure des entités injectées par le décomposeur, canal coupé lorsque l'architecture permet une véritable évaluation d'isolement.

Identifie l'oracle avant d'écrire une ligne d'agent. Compilateur, suite de tests, score physique, validation métier. Si tu n'en trouves pas, tu construis un système dont personne ne pourra dire s'il fonctionne.

Investis dans le harnais plutôt que dans le prompt. L'étude Princeton et UC San Diego sur les skills montre que le gain vient du squelette de procédure imposé, pas de la connaissance injectée. Écris des étapes contraintes, des points d'arrêt, des sorties typées.

Pour les décideurs et dirigeants

Le chiffre Gartner ne décrit pas seulement un échec technologique. Plus de 40 % de projets agentiques morts avant 2028, c'est un mélange de coûts mal maîtrisés, de valeur commerciale non démontrée et de dispositifs de contrôle insuffisants. Si des agents en production ne peuvent pas être coupés en urgence, l'arrêt d'urgence testé doit devenir un critère de mise en service, au même titre qu'un plan de reprise.

Lis correctement le paradoxe VB Pulse. Les organisations avec couche contextuelle gouvernée remontent deux fois plus d'échecs, très probablement parce qu'elles les détectent mieux. Un tableau de bord agentique sans incident est un signal d'aveuglement, pas de maturité.

Budgète la vérification comme une ligne distincte du développement. Là où la vérité terrain est chère (conseil, médical, juridique, recherche), le coût réel du projet est celui de l'évaluation, pas celui du modèle. SOP-Bench illustre combien la connaissance tacite métier peut être sous-estimée.

Pour l'écosystème français et européen

Le capital finance ce qui rend le jugement scalable, pas nécessairement ce qui le rend fiable. Simile a levé fin juillet plus de 200 millions pour remplacer des panels humains par des populations synthétiques. Les infrastructures de routage et de calcul absorbent des montants encore bien supérieurs. Entre les deux, l'évaluation indépendante, l'audit et la constitution de vérités terrain métier restent fragmentés. C'est l'un des segments où la compétence réglementaire européenne peut devenir un avantage produit plutôt qu'une friction.

La publicité dans ChatGPT commence à être déployée en France pendant la semaine du 24 août. OpenAI affirme que les annonces sont séparées des réponses et ne les influencent pas, et sa régie optimise déjà au-delà du clic, vers la conversion. Le vrai sujet n'est donc pas le clic comme récompense, c'est la gouvernance : comment auditer durablement, et de l'extérieur, la séparation entre la réponse et l'optimisation publicitaire, dans un système dont le revenu est mesurable et la sortie ne l'est pas.

La souveraineté linguistique se joue sur deux fronts simultanés. Les techniques de transfert multilingue à faible ressource baissent le coût d'entrée, pendant qu'une part importante des pages anglophones récentes et datables présente déjà des indices d'écriture assistée par IA. Constituer et certifier des corpus francophones d'origine humaine devient une infrastructure, pas un projet patrimonial.


Le méta-signal de la semaine

L'IA ne ralentit pas. Le goulot d'étranglement a changé de place sans que le discours suive.

Produire est devenu abondant et presque gratuit. Vérifier est resté rare et cher.

Toutes les histoires du fil se rangent selon le coût de clôture. Quand le verdict est automatique et immédiat, comme pour les kernels CUDA, la boucle tourne vite. Quand il exige une expérience physique ou clinique, comme pour les protéines et les médicaments, elle ralentit brutalement. Quand aucun critère consensuel n'existe, comme pour la conscience ou certaines questions de recherche ouverte, elle ne se referme pas.

Face à cette pénurie, l'industrie a choisi la réponse la plus rationnelle à court terme et la plus vertigineuse à long terme : fabriquer le juge.

Plus de 200 millions levés à 2 milliards de valorisation sur des populations synthétiques. Une loi d'échelle qui bascule vers le post-entraînement. Un web récent où l'empreinte des machines devient de plus en plus visible.

On répond au manque de jugement en simulant le jugement, avec le risque que ces sorties synthétiques alimentent à leur tour le post-entraînement et le corpus des modèles suivants.

La question de 2027 n'est donc pas de savoir quel modèle sera le plus gros. C'est de savoir qui possède la vérité terrain d'un domaine.

Pas le modèle. La vérité terrain.

C'est le seul actif que la simulation ne peut pas fabriquer. Et c'est précisément celui que les entreprises européennes tiennent déjà dans leurs métiers, sans avoir compris qu'il valait quelque chose.


Nos prédictions

PrédictionHorizonÉchéanceConfianceStatut
Au moins un grand laboratoire (OpenAI, Anthropic, Google DeepMind ou Meta) publiera, dans l'annonce officielle ou la documentation technique d'un nouveau modèle, des résultats sur DiG-bench ou sur un autre benchmark interactif où l'agent doit découvrir par expérimentation des règles ou un objectif non révélés. Les benchmarks de code, de recherche documentaire et de raisonnement statique ne compteront pas.6 mois21 févr. 2027moyenneEn cours
Simile AI ou un concurrent spécialisé dans les populations synthétiques publiera une validation conduite ou auditée par une organisation extérieure, comparant ses simulations à des panels humains réels sur au moins trois cas d'usage, avec protocole, taille des échantillons et résultats accessibles publiquement.6 mois21 févr. 2027moyenneEn cours
Au moins un référentiel public européen explicitement consacré aux agents IA imposera un test exécuté et documenté de leur arrêt en cours d'action, avec preuve du retour à un état sûr. La simple présence statique d'un bouton d'arrêt, déjà prévue par l'article 14 de l'AI Act pour les systèmes à haut risque, ne suffira pas.1 an21 août 2027moyenneEn cours
Un éditeur SaaS nommé retirera ou suspendra une fonctionnalité agentique accessible à ses clients et déjà en disponibilité générale après une défaillance de fiabilité, de sécurité ou d'exécution. L'entreprise documentera ensuite une réduction de l'autonomie, l'ajout d'une validation humaine obligatoire ou un mécanisme de retour arrière avant sa remise en service.1 an21 août 2027hauteEn cours
Une startup dont le siège est en Europe et dont le produit principal porte sur l'évaluation, l'audit ou l'observabilité des agents IA annoncera un tour de financement unique supérieur à 20 millions d'euros. Un montant libellé en dollars sera converti en euros au taux du jour de l'annonce pour trancher ce seuil. Les plateformes généralistes de modèles ou d'infrastructure ne compteront pas.1 an21 août 2027moyenneEn cours

Une prévision n'est considérée comme réalisée ou invalidée que sur la base d'un tarif public, d'une documentation du fournisseur ou d'une évaluation dont le protocole et les résultats détaillés sont accessibles. L'absence d'une évaluation qualifiante ne validera pas automatiquement la dernière prévision : elle la laissera non résolue.

Questions fréquentes

Qu'est-ce que l'auto-amelioration recursive de l'IA ?
C'est l'idee qu'une IA capable d'ameliorer sa propre conception declenche une boucle qui s'accelere seule. L'etude Princeton menee par Peter Kirgis et Sayash Kapoor montre que la boucle ne se referme pas : les agents executent tres bien un protocole de recherche, mais ne savent pas arbitrer entre plusieurs pistes quand aucune reponse n'est connue d'avance.
Pourquoi 40 % des projets d'IA agentique vont-ils echouer avant 2028 ?
Selon Gartner, la cause n'est pas la performance des modeles mais l'absence de boucle de controle. Les entreprises deploient des agents sans verificateur fiable ni procedure d'arret testee : une sur cinq ne sait pas couper un agent qui derape. Celles qui reussissent limitent volontairement l'autonomie de leurs agents.
Qu'est-ce que le role drift dans un systeme multi-agents ?
C'est le fait qu'un module specialise sorte de son perimetre et transmette de l'information a un autre au lieu d'effectuer sa tache. Des chercheurs du MIT et de Harvard ont montre qu'un seul module ainsi derive avait fabrique 86 % des gains de precision d'un pipeline. La metrique globale monte pendant que le systeme se degrade.
Les donnees synthetiques sont-elles un risque pour l'IA ?
Richard Sutton, prix Turing, les qualifie d'erreur majeure : elles recyclent de la connaissance humaine existante au lieu d'explorer un monde reel infiniment complexe. Le risque s'aggrave avec la contamination du corpus, un tiers des pages publiees depuis 2022 contenant deja du texte genere ou lourdement retravaille par IA selon Pew Research.
Comment savoir si un agent IA fonctionne vraiment en production ?
En evaluant chaque module isolement et pas seulement le resultat final, et en identifiant un oracle externe (compilateur, tests, validation metier) avant le deploiement. Un tableau de bord sans incident est suspect : l'enquete VB Pulse montre que les entreprises les mieux instrumentees remontent deux fois plus d'echecs, simplement parce qu'elles les voient.

Sources

Cette analyse vous a été utile ?

Les chiffres derrière l'analyse

Le Baromètre IA mesure chaque semaine qui domine la couverture médiatique — entités, concepts et tendances.

Suivi en continu

Cette analyse touche les sujets suivants — chaque hub agrège l'actualité quotidienne de l'entité.

Une analyse comme celle-ci chaque semaine

Abonnez-vous pour recevoir l'analyse hebdomadaire directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic