85% des entreprises victimes d'une erreur d'IA se précipitent pour réduire les employés qui pourraient repérer la prochaine
Selon une nouvelle étude VB Pulse de VentureBeat Intelligence publiée en juillet, 108 entreprises comptant au moins 100 employés ont été sondées, contre 157 en juin. Résultat frappant : 13% des répondants disent faire confiance à l'évaluation automatisée des agents IA, contre seulement 5% le mois précédent, et la part de ceux citant un mauvais alignement entre les tests et les résultats réels comme principale préoccupation a chuté de 29% à 19% en un mois. Pourtant, 49% des sondés affirment qu'une fonctionnalité IA ou un agent basé sur un LLM ayant passé les tests internes de l'entreprise a ensuite causé un problème visible par les clients, un chiffre quasi stable par rapport aux 50% de juin, et 24% disent que cela s'est produit plus d'une fois. L'écart le plus révélateur apparaît dans le détail des données : parmi les entreprises ayant connu un tel incident, seulement 4% affichent une confiance totale dans les vérifications automatisées, contre 24% chez celles n'ayant rien constaté de comparable, soit un écart de facteur six. L'échantillon reste orienté vers les entreprises de taille moyenne (63% comptent entre 100 et 2499 employés) et 69% des répondants sont des décideurs ou influenceurs des achats IA.
Résumé et traduction réalisés par Le Fil IA à partir de VentureBeat AI. Lire l'article original →
Ce paradoxe compte parce que malgré une confiance croissante mais des résultats concrets qui ne s'améliorent pas, les entreprises accélèrent le retrait des humains des décisions de déploiement d'agents IA plutôt que de ralentir. Ben Hylak, directeur technique de Raindrop.ai, plateforme de surveillance et de correction automatisée des erreurs d'agents, décrit un "grand déclin des évaluations" telles qu'on les connaît : les entreprises du Fortune 100 réduiraient leurs jeux de tests et délaisseraient leur maintenance, jugeant impossible d'énumérer tous les cas de défaillance à mesure que les systèmes se complexifient, avec l'essor des protocoles MCP et des sous-agents. Elles se tournent à la place vers des outils de détection d'anomalies avant et après la mise en production. Pour les entreprises clientes, cela signifie moins de garde-fous humains au moment précis où les agents gagnent en autonomie, avec un risque réel de défaillances répétées touchant directement les utilisateurs finaux.
Cette dynamique prolonge un constat posé dès juin par VentureBeat, qui avait identifié un "écart d'évaluation" en entreprise : les organisations accordent plus vite d'autonomie à leurs agents IA qu'elles ne développent des méthodes fiables pour les tester. Sur les deux vagues d'enquête cumulées, 265 réponses au total, la proportion d'entreprises ayant subi un incident client après des tests pourtant validés est restée quasi identique, 50% en juin et 49% en juillet. D'autres évolutions notables ressortent des données de juillet : la facilité d'intégration devient un critère d'achat plus déterminant, et la plateforme Braintrust gagne du terrain comme outil principal d'évaluation. VentureBeat précise toutefois que ces résultats restent directionnels, l'enquête reposant sur un échantillon auto-sélectionné et non probabiliste, avec des sous-groupes de 40 à 68 répondants selon les croisements analysés.
Les entreprises europeennes deployant des agents IA font face aux memes risques de reduction de supervision humaine, meme si l'etude ne fournit aucune donnee specifique sur la France ou l'UE.