Aller au contenu principal
BusinessVentureBeat AI · 2 min de lecture

L'écart d'évaluation des agents : les organisations d'IA en entreprise ont un problème d'alignement avec la réalité, pas de couverture, et déploient quand même en production

Source originale ↗·

Cent cinquante-sept entreprises ont participé à cette enquête menée par VentureBeat en juin 2026 dans le cadre de sa série Pulse Research, consacrée à la manière dont les organisations évaluent la fiabilité de leurs agents IA. Le constat central est frappant: la moitié des entreprises interrogées ont déployé, au cours de l'année écoulée, un agent ou une fonctionnalité basée sur un LLM qui avait pourtant réussi ses tests internes avant de provoquer un incident visible par les clients, et un quart d'entre elles ont connu ce type de défaillance plus d'une fois. Seules 5% des organisations disent faire pleinement confiance à leurs méthodes d'évaluation automatisée, la faiblesse la plus souvent citée (29%) étant le décalage entre les résultats des tests et les performances réelles en production. Malgré cela, 66% des entreprises autorisent déjà un déploiement entièrement automatisé, sans supervision humaine, pour les agents jugés à faible risque (34%), ou construisent activement leurs systèmes pour y parvenir dans les douze prochains mois (33%). L'échantillon, composé à 38% de décideurs finaux et 34% de personnes influentes dans les achats technologiques, provient majoritairement d'entreprises de taille moyenne, entre 100 et 2500 salariés, avec le secteur technologique en tête (23%), suivi du commerce de détail (15%) et de la santé (12%).

Ce décalage entre l'autonomie accordée aux agents et la confiance réelle dans les outils censés la contrôler pose un problème concret pour les entreprises qui accélèrent l'adoption de l'IA agentique. Si un agent passe ses tests puis échoue devant un client, c'est la réputation de l'entreprise, sa relation commerciale et potentiellement sa conformité réglementaire qui sont en jeu. Le fait que les organisations avancent malgré tout vers plus d'automatisation, avec moins de supervision humaine, signifie qu'elles acceptent un risque opérationnel croissant sans disposer des garde-fous adéquats. Pour les équipes techniques, cela traduit une pression du marché à déployer vite, quitte à improviser la gouvernance des risques après coup plutôt qu'avant.

Ce phénomène s'explique en partie par l'immaturité des outils d'évaluation disponibles: l'étude montre que les outils natifs fournis par les fournisseurs de modèles arrivent à égalité avec l'absence totale d'outillage dédié comme solution la plus répandue (17% chacun), et seulement un quart des entreprises effectuent des contrôles qualité en temps réel sur leur trafic de production réel. L'écosystème des plateformes de fiabilité et d'évaluation des agents reste donc fragmenté, ce qui alimente un cercle vicieux: plus les entreprises automatisent leurs déploiements, plus elles auraient besoin d'évaluations robustes, alors que ces dernières peinent justement à suivre le rythme de l'adoption. Les auteurs de l'étude soulignent que l'échantillon, bien que suffisamment large pour dégager des tendances, reste auto-sélectionné et penché vers le marché intermédiaire, ce qui invite à lire ces résultats comme un signal directionnel plutôt qu'une mesure précise de l'ensemble du marché.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Les organisations IA en entreprise ont un problème d'exécution, pas un problème de modèle, et la plupart construisent la mauvaise solution
1VentureBeat AI 

Les organisations IA en entreprise ont un problème d'exécution, pas un problème de modèle, et la plupart construisent la mauvaise solution

Une enquête publiée par VentureBeat en mai 2026, menée auprès de 132 responsables technologiques de grandes entreprises, révèle que le principal problème de l'IA agentique en production n'est pas le modèle d'intelligence artificielle lui-même, mais l'infrastructure d'exécution. Conduite dans le cadre de la série Pulse Research, l'étude interroge des dirigeants de sociétés d'au moins 100 salariés, dont 35 % dans des entreprises de plus de 10 000 employés, couvrant des secteurs comme la technologie (42 %), les services financiers (20 %) ou la santé (7 %). Résultat central : les agents IA déployés sur des infrastructures sans état, scripts Python, chaînes LangChain, orchestrations improvisées, s'effondrent au contact des exigences opérationnelles réelles. Les redémarrages de conteneurs effacent le contexte, les coûts en tokens dépassent les prévisions, et les hallucinations produites à l'étape 3 d'un workflow se transforment en échecs catastrophiques à l'étape 12. Ce constat a des conséquences concrètes pour des milliers d'équipes d'ingénierie : la majorité d'entre elles consacrent davantage de temps à gérer la "plomberie" de ces systèmes qu'à construire l'intelligence qui était censée justifier l'investissement. L'enquête introduit une distinction structurante entre le "cerveau" (la capacité de raisonnement du modèle) et la "colonne vertébrale" (l'infrastructure d'exécution qui gère l'état, la résilience et la coordination). Si les problèmes d'intégration et de gouvernance restent le premier facteur de défaillance cité, les problèmes d'infrastructure arrivent juste derrière. Et 17 % des répondants identifient encore le modèle lui-même comme la cause principale, ce qui n'est pas anecdotique : ces entreprises signalent que les modèles restent insuffisamment fiables pour les cas limites que leurs workflows génèrent. Ce rapport s'inscrit dans une série de recherches commencée au premier trimestre 2026 autour du concept de "Governance Mirage" : 43 % des entreprises interrogées alors déclaraient avoir une équipe centrale responsable de la gouvernance IA, tandis que 23 % ne s'accordaient pas sur cette question, et 31 % pointaient l'opacité des fournisseurs comme obstacle principal. Le parallèle avec la vague RPA (automatisation robotique des processus) il y a dix ans est explicitement évoqué : un cimetière de pilotes brillants incapables de passer le cap du "Jour 2". Selon VentureBeat, les organisations qui survivront à ce qu'il appelle l'"Agentic Reckoning" seront celles qui traiteront la durabilité de l'infrastructure d'exécution comme une priorité d'ingénierie de premier ordre, et non comme un problème à corriger à coups de relances et de prompts.

BusinessOpinion
1 source
2VentureBeat AI 

L'orchestration à base d'agents : les entreprises ont un problème de déploiement, pas de plateforme, et confondent souvent chatbots et agents

Traduction en cours. Anthropic conforte sa position de plateforme de référence pour l'orchestration d'agents en entreprise, selon une enquête VentureBeat Pulse Research menée en juin 2026 auprès de 101 organisations de plus de 100 salariés. Claude est déjà la plateforme principale pour 40% des entreprises interrogées, soit plus du double de son plus proche concurrent Microsoft (18%), OpenAI arrivant troisième avec 13%. Ce choix s'explique surtout par ce que l'étude appelle la "gravité du modèle", c'est-à-dire l'alignement natif avec un modèle de pointe (21% des répondants), la réussite d'un déploiement étant jugée sur la fiabilité d'exécution multi-étapes: 32% citent la fiabilité de complétion des tâches et 28% la gestion de workflows en plusieurs étapes comme critères clés. Mais l'écart est frappant: interrogées honnêtement sur leur portefeuille d'agents, 71% des entreprises admettent qu'un quart ou moins de leurs "agents" déployés sont de véritables workflows orchestrés en plusieurs étapes, le reste n'étant que des chatbots enrobés d'un seul prompt. Seules 10% dépassent la barre des 50% d'agents réellement orchestrés. Cet écart entre l'ambition et la réalité pèse directement sur les décisions d'architecture des entreprises. D'ici fin 2026, 51% des organisations prévoient d'adopter un plan de contrôle hybride, combinant outils natifs du fournisseur et orchestration externe, tandis que seulement 6% envisagent de confier entièrement ce contrôle à un service géré par le fournisseur du modèle. La raison principale de cette prudence est la peur du verrouillage propriétaire, citée par 35% des répondants comme le risque numéro un. Les budgets suivent cette logique de construction: les outils de workflow agentique captent la plus grosse part des investissements (34%), suivis par la sécurité et la gestion des permissions (25%). Autre signal inquiétant, le contrôle financier reste largement absent: plus d'un quart des entreprises (27%) n'ont aucun moyen en temps réel d'arrêter un agent qui s'emballerait avant que la facture n'arrive, ce qui expose les organisations à des dérapages de coûts liés à la consommation de tokens. Cette enquête s'inscrit dans la série Pulse Research de VentureBeat et repose sur une vague unique collectée en juin 2026, ce qui limite l'analyse à une lecture transversale plutôt qu'à une tendance dans le temps. L'échantillon est réparti équitablement entre grandes tranches d'effectifs, avec une forte représentation de décideurs seniors: 81% des répondants sont recommandeurs, influenceurs ou décideurs finaux sur les solutions d'IA, et le secteur technologique domine avec 44% des répondants, devant les services financiers (17%) et la santé (8%). Ces résultats confirment une dynamique de fond dans l'industrie: la consolidation rapide autour des grandes plateformes de modèles s'accompagne d'une méfiance persistante envers la dépendance à un seul fournisseur, poussant les entreprises à bâtir des architectures hybrides tout en peinant encore à combler le fossé entre le marketing de l'"agent" et la réalité opérationnelle de systèmes multi-étapes réellement autonomes et maîtrisés financièrement.

💬 Selon Le Fil IA, la vraie fracture de l'IA agentique en entreprise n'est pas technique, elle est comptable : 71% des boîtes appellent "agent" un chatbot avec un joli prompt, et 27% n'ont même pas de bouton pour arrêter la facture si ça déraille. Anthropic gagne la bataille de la plateforme (40%, loin devant Microsoft et OpenAI), mais gagner la course au modèle et savoir orchestrer un vrai workflow multi-étapes, ce sont deux histoires différentes. La méfiance envers le verrouillage propriétaire pousse tout le monde vers l'hybride, ce qui en dit long : les entreprises font confiance au modèle, pas encore au fournisseur.

BusinessActu
1 source
3VentureBeat AI 

L'IA en entreprise entre dans une zone d'incertitude d'évaluation : les agents gagnent en autonomie plus vite que les entreprises ne peuvent les vérifier

Les entreprises qui déploient des agents IA en production accordent de plus en plus d'autonomie à ces systèmes, au moment même où leur confiance dans les méthodes d'évaluation automatisées s'effondre. Selon l'enquête VB Pulse menée en juin 2026 auprès de 157 répondants qualifiés dans des entreprises de plus de 100 salariés, la moitié d'entre elles ont déjà déployé un agent ou une fonctionnalité basée sur un LLM qui avait pourtant réussi ses évaluations internes, avant de provoquer un incident visible par les clients. Un quart des entreprises concernées ont connu ce type d'échec plus d'une fois. L'échantillon, auto-sélectionné, ne constitue pas un sondage probabiliste et doit être lu comme une tendance plutôt qu'une mesure exacte. Malgré cela, les entreprises ne ralentissent pas l'automatisation : 66% des répondants autorisent déjà certains déploiements en production sans supervision humaine, ou construisent des systèmes destinés à le permettre dans les douze prochains mois. Seuls 5% affirment faire pleinement confiance aux évaluations automatisées censées justifier ces décisions de mise en production. Les raisons de cette défiance sont précises : 29% pointent un mauvais alignement entre les scores obtenus et les résultats réels observés en production, 21% évoquent des biais ou des incohérences, 18% un manque d'explicabilité, et 17% des risques de fuite de données ou de confidentialité. Ce décalage, que les analystes appellent le fossé d'évaluation, illustre un problème structurel : contrairement aux logiciels traditionnels testés sur des entrées et sorties définies, un agent choisit sa propre séquence d'actions, appelle des outils, modifie des états et peut réagir différemment d'une exécution à l'autre. Il peut ainsi récupérer le bon compte client mais modifier le mauvais champ, rédiger une demande de remboursement valide mais l'envoyer sans validation, ou réussir cinq appels d'outils avant qu'un sixième ne divulgue des données sensibles. Pour les entreprises, l'enjeu dépasse la vitesse des tests : c'est la fiabilité même des scores qui est en cause. Ce constat rejoint les recommandations du NIST, qui appelle à des tests en conditions réelles et à une surveillance post-déploiement, car le comportement d'un modèle varie selon les invites, les utilisateurs et le contexte. Cette problématique doit être au cœur des discussions lors de la conférence VB Transform 2026, où sera défendue l'idée que les entreprises déploient d'abord leurs agents, avant que les couches de contrôle telles que la gestion des identités, l'évaluation, le suivi des coûts et l'orchestration ne suivent. L'année à venir s'annonce donc comme un cycle de rattrapage, avec des budgets réorientés vers les outils de gouvernance. Les orientations d'Anthropic sur l'évaluation des agents insistent sur une distinction essentielle entre réussir une fois et réussir systématiquement, ce qui pousse les équipes à traiter la répétabilité comme une métrique de premier plan, en testant les mêmes scénarios plusieurs fois, en faisant varier les formulations et en intégrant chaque incident de production comme un nouveau test de non-régression.

💬 Bon, là on touche au vrai problème de 2026. Une IA qui réussit ses évals internes puis fait n'importe quoi en prod, c'est plus l'exception, c'est la norme, et le pire c'est que 66% des boîtes accélèrent quand même vers le sans-supervision. Si je dois retenir une phrase : on est en train de généraliser l'autonomie des agents plus vite qu'on sait la mesurer, et ça va finir par coûter cher à quelqu'un.

BusinessActu
1 source
Le problème de gouvernance dans l'IA en entreprise : une question de propriété, pas de technologie
4VentureBeat AI 

Le problème de gouvernance dans l'IA en entreprise : une question de propriété, pas de technologie

Voici l'article traduit et résumé : Une nouvelle étude de VentureBeat Pulse Research, menée auprès de 145 responsables d'entreprises de 100 salariés et plus au deuxième trimestre 2026 (vague de juin), révèle un décalage croissant entre l'expansion rapide de l'intelligence artificielle en entreprise et la capacité à la gouverner. Près de trois entreprises sur cinq (58%) déclarent étendre significativement leurs initiatives IA, mais 85% d'entre elles font tourner deux plateformes ou plus se revendiquant chacune comme la couche IA « principale », et seulement 8% ont réussi à consolider leur infrastructure autour d'une seule solution. Autre signal préoccupant : 40% des répondants se disent très confiants dans leur capacité à détecter un modèle qui dérive, se comporte de façon dangereuse ou tombe en panne en production, mais seuls 10% appuient cette confiance sur une surveillance et des alertes automatisées, les autres s'en remettant à une revue humaine manuelle. Sur le plan de la gouvernance, seuls 38% des organisations confient le pilotage de l'IA à une équipe centrale, tandis que 20% laissent chaque équipe gérer sa propre plateforme indépendamment. L'obstacle le plus cité à une gouvernance transversale reste l'absence d'un responsable unique et clairement identifié (32%), et environ une entreprise sur six (17%) reconnaît qu'aucun rôle ne porte formellement cette responsabilité. Ce fossé de contrôle a des conséquences financières bien réelles. Près de la moitié des entreprises interrogées (49%) citent le « shadow AI », c'est-à-dire des pipelines d'agents autonomes déployés sans autorisation sur des cartes bancaires professionnelles et échappant à toute supervision centrale, comme leur défaillance de contrôle la plus grave. Un quart des répondants (25%) rapportent avoir été confrontés à une facture incontrôlée provoquée par un agent bloqué dans une boucle infinie. Ces chiffres illustrent un problème structurel : les entreprises ont normalisé leur ambition en matière d'IA bien avant de normaliser les mécanismes permettant de la maîtriser, qu'il s'agisse de surveiller les coûts, de vérifier la fiabilité des modèles ou d'attribuer une responsabilité claire. Cette étude s'inscrit dans un contexte où l'adoption des agents autonomes s'accélère plus vite que la mise en place de garde-fous adaptés. L'échantillon, composé majoritairement de cadres techniques et dirigeants (consultants et conseillers à 20%, directeurs informatiques et de la sécurité à 18%, directeurs de l'ingénierie à 14%), couvre principalement le secteur technologique (41%), suivi des services financiers et professionnels (12% chacun). Les auteurs de l'étude précisent qu'il s'agit d'un échantillon auto-sélectionné et non d'un sondage probabiliste, invitant à lire les résultats comme une tendance directionnelle plutôt qu'une mesure exacte. Reste que le constat global converge avec d'autres alertes du secteur : sans propriétaire clairement désigné pour l'IA à l'échelle de l'entreprise, la multiplication des plateformes et des agents autonomes risque de transformer la promesse de productivité en une source de risques opérationnels et financiers difficiles à anticiper.

💬 Le vrai coupable n'est pas la techno, c'est l'absence de nom sur la porte : 62% des boîtes n'ont personne qui possède l'IA à l'échelle de l'entreprise, alors banane, ça part en freestyle. Le chiffre qui pique, c'est ces 25% qui se sont pris une facture salée à cause d'un agent coincé dans une boucle infinie, sans personne pour appuyer sur stop. Selon Le Fil IA, la prochaine grosse crise IA en entreprise ne viendra pas d'un modèle défaillant mais d'une ligne de responsabilité qui n'existe nulle part sur l'organigramme.

BusinessActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic