Aller au contenu principal
OutilsVentureBeat AI · 2 min de lecture

Les agents IA ne se trompent pas avec assurance à cause d'un mauvais contexte, mais d'une mauvaise ingénierie des données

Source originale ↗·

Un scénario revient de plus en plus souvent dans les équipes qui déploient des chatbots d'entreprise basés sur l'IA : after weeks de réglages, les réponses sont validées par les parties prenantes, le système est mis en production, puis trois mois plus tard il se trompe avec assurance sur environ un tiers des questions posées, sans que personne n'ait touché au modèle ni aux prompts. La cause n'est pas technique au sens classique : les prix ont changé, une politique a été mise à jour, une fiche produit est sortie dans une nouvelle version, et la base de connaissances sous-jacente n'a pas suivi. Un exemple similaire s'est produit dans une chaîne de traitement de données fintech : un système amont a modifié un champ sans prévenir les systèmes en aval, et le pipeline n'a jamais échoué au sens strict puisqu'il continuait de faire remonter des valeurs, simplement fausses, dans les tableaux de bord, jusqu'à ce qu'un client signale une incohérence. Un document de tarification obsolète est récupéré avec la même confiance qu'un document à jour, car le système évalue la pertinence ou la disponibilité de l'information, jamais son exactitude.

Ce type de panne est particulièrement dangereux car il reste invisible : tous les indicateurs de supervision restent au vert, le pipeline tourne, le job se termine sans erreur, et pourtant la donnée servie est fausse. Face à ce problème, les équipes commettent généralement la même erreur de diagnostic à deux reprises : elles soupçonnent d'abord le modèle de langage et changent de LLM ou ajustent les prompts, puis, une fois cette piste écartée, elles blâment la couche de récupération de contexte et cherchent à acheter un meilleur outil de retrieval. Or le vrai problème se situe plus en amont, au niveau de l'ingénierie des données elle-même : la supervision existante vérifie si un traitement s'est exécuté, pas si la donnée qu'il a transportée est toujours vraie, un biais qui précède largement l'arrivée de l'IA générative en entreprise.

Ce diagnostic explique la ruée actuelle des grands fournisseurs cloud vers ce qu'on appelle la couche de contexte. Amazon Web Services vient d'entrer dans cette course avec un graphe de connaissances qui apprend de l'usage des agents IA, tandis que Snowflake a lancé Horizon Context et Cortex Sense pour cibler précisément ce symptôme de réponses erronées mais confiantes. Ces réponses restent toutefois une couche au-dessus du vrai enjeu, puisqu'un graphe de connaissances dépend toujours de ce qui l'alimente en amont. La solution, selon l'auteur, passe par une véritable observabilité des données, un concept déjà ancien mais encore mal appliqué, où la métrique clé n'est pas un pourcentage de disponibilité mais la couverture réelle de la traçabilité des jeux de données critiques, un chantier qu'Uber a par exemple structuré via une équipe dédiée à la qualité et à l'observabilité des données.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Les agents IA donnent des réponses fausses avec assurance : la couche de contexte est le prochain défi de l'IA en entreprise
1VentureBeat AI 

Les agents IA donnent des réponses fausses avec assurance : la couche de contexte est le prochain défi de l'IA en entreprise

À San Francisco, lors du Snowflake Summit 26, l'éditeur américain de cloud de données a annoncé une série d'initiatives destinées à résoudre un problème croissant dans les déploiements d'IA en entreprise : les agents produisent des réponses assurées mais incorrectes, non pas à cause du modèle lui-même, mais parce que le même terme "revenu" peut signifier une chose dans un tableau de bord de business intelligence, une autre dans une table SQL, et encore autre chose dans les instructions d'un agent. Parmi les annonces figurent Data Stream, un service de streaming géré compatible Kafka, des améliorations à l'adaptive compute et une meilleure interopérabilité avec Apache Iceberg. La pièce maîtresse est un système à deux couches baptisé Horizon Context et Cortex Sense. Horizon Context, construit sur l'acquisition de Select Star, agrège les métadonnées de Postgres, SQL Server, Tableau et Power BI dans un catalogue centralisé ; Cortex Sense enrichit ce contexte automatiquement à partir des données et habitudes d'usage des clients, sans curation manuelle. "Horizon Context, c'est tout ce qui est explicite et déclaré par les clients ; Cortex Sense, c'est tout ce qui est implicite et dérivé par nous", a résumé Christian Kleinerman, directeur exécutif produit de Snowflake. L'enjeu est considérable pour les entreprises qui adoptent des architectures de récupération hybrides. Selon les données VB Pulse du premier trimestre 2026, issues d'une enquête auprès d'organisations de plus de 100 employés, l'intention de passer à une récupération hybride a triplé, de 10,3 % en janvier à 33,3 % en mars, la croissance la plus rapide de tout le secteur. Lorsque plusieurs agents interrogent les mêmes données sous-jacentes, ils raisonnent sur des schémas différents et renvoient des résultats divergents. Horizon Context vise à corriger ce problème au niveau du catalogue plutôt qu'agent par agent, tandis qu'un mécanisme baptisé Semantic View Autopilot crée et affine automatiquement des vues sémantiques sans maintenance manuelle continue. La connexion à Cortex Search, l'implémentation RAG de Snowflake, permet à ce contexte enrichi d'alimenter directement les workflows de récupération des produits CoCo et Cowork. Ce problème de couche de contexte est devenu le prochain grand chantier de l'IA d'entreprise. Les deux dernières années de construction d'infrastructures de récupération ont produit une recherche vectorielle plus rapide et moins coûteuse, mais aucune définition partagée de ce que les données signifient réellement. Snowflake n'est pas seul : Microsoft a ouvert son ontologie métier Fabric IQ via MCP pour que les agents de n'importe quel éditeur puissent s'appuyer sur une sémantique commune. Pour ne pas enfermer ses clients, Snowflake lie Horizon Context à l'Open Semantic Interchange, rendant les définitions métier portables vers des catalogues et outils tiers. La question qui se pose est désormais de savoir quelle couche de contexte s'imposera dans un marché où un nombre croissant d'acteurs promettent tous de rendre les agents plus fiables.

UELes entreprises européennes déployant des architectures multi-agents font face aux mêmes enjeux de cohérence sémantique, rendant ces nouvelles couches de contexte directement pertinentes pour les DSI du continent.

OutilsOpinion
1 source
Cara développe une IA spécialisée pour les courtiers en assurance d'entreprise avec AWS
2AWS ML Blog 

Cara développe une IA spécialisée pour les courtiers en assurance d'entreprise avec AWS

Cara, une startup fondée par Vic Yeh, Nikhil Kansal et Jon Patel, a lancé une plateforme d'IA spécialisée pour les courtiers en assurance d'entreprise, construite entièrement sur Amazon Web Services. Les trois fondateurs ont une expérience directe du secteur : ils avaient créé puis revendu leur propre courtage digital à The McGowan Companies, l'un des plus grands groupes d'assurance privés aux États-Unis. C'est lors de cette aventure qu'ils ont développé un premier copilote IA interne basé sur des LLMs, qui avait réduit les délais de traitement, amélioré la précision des données et fluidifié les workflows des agents. Fort de son adoption, le concept a été élargi en produit autonome : Cara. La plateforme répond à une problématique concrète dans un secteur pesant 8 000 milliards de dollars mondial : les agents d'assurance passent des heures sur des tâches répétitives comme le remplissage de formulaires ACORD, l'analyse comparative des garanties, la ressaisie de données entre systèmes et les allers-retours entre clients et compagnies. Face à une pénurie persistante de talents, les courtages doivent augmenter leur chiffre d'affaires sans embaucher proportionnellement. Cara automatise ces processus en s'appuyant sur Amazon Bedrock pour l'inférence LLM, ce qui évite de gérer une infrastructure GPU, et sur Amazon EKS pour l'orchestration des microservices en conteneurs sur plusieurs zones de disponibilité, supportant des milliers d'utilisateurs et de workflows simultanés par courtage. Chaque organisation bénéficie d'espaces de travail isolés, avec des données et workflows cloisonnés pour répondre aux exigences réglementaires du secteur. Les outils IA généralistes échouent dans l'assurance parce qu'ils ignorent les modèles de données métier, les exigences spécifiques des compagnies et les contraintes réglementaires liées aux données personnelles et financières sensibles. Cara a été conçu précisément pour combler ces lacunes, en intégrant des workflows propres aux courtages, la connaissance des appétits des compagnies, les historiques de placements et les directives internes des agences. La solution s'interface avec les principaux systèmes de gestion d'agences et CRM du marché, synchronisant comptes, polices et documents pour éliminer les doublons. Dans un secteur où la précision et la traçabilité sont non négociables, ce positionnement de spécialiste, par opposition aux assistants IA horizontaux, représente la thèse centrale de Cara et pourrait devenir un modèle de référence pour d'autres verticals fortement réglementés cherchant à industrialiser l'IA sans sacrifier la conformité.

OutilsOutil
1 source
Les agents IA ne sont pas freinés par les modèles, mais par les permissions
3VentureBeat AI 

Les agents IA ne sont pas freinés par les modèles, mais par les permissions

Les agents d'intelligence artificielle déployés en entreprise se heurtent moins à des limites de performance qu'à un problème de gouvernance : qui a le droit de faire quoi, au nom de qui, et comment le système peut-il en être certain ? C'est autour de cette question que Workday a construit Sana, son système de référence pour les agents IA, lancé en mars dernier. Gerrit Kazmaier, président produit et technologie de Workday, l'a confirmé dans un entretien à VentureBeat : les entreprises qui tentent de construire leurs propres solutions en accédant directement aux données brutes perdent la richesse du modèle de sécurité existant, et obtiennent des résultats trop larges, mal ciblés. En parallèle, Workday a élargi son partenariat avec Google pour intégrer Sana à Gemini Enterprise, rendant ainsi les agents construits sur cette infrastructure découvrables depuis l'écosystème Google. L'enjeu est particulièrement critique dans les domaines des ressources humaines et de la finance, où "presque juste n'est pas acceptable", selon Kazmaier. Un bulletin de salaire mal calculé, un entretien mal planifié ou une clôture comptable erronée ont des conséquences immédiates et souvent irréversibles, contrairement à la plupart des sorties d'IA générative, ces erreurs n'ont pas de boucle de correction. Workday a répondu à ce défi en construisant Gemini comme couche de raisonnement de base, puis en superposant son moteur de contexte métier et sa logique de processus. Des modèles de vérification et de classification "interrogent" les résultats avant toute exécution. Concrètement, l'agent Sana Self-Service utilise Gemini comme interface conversationnelle pour déclencher un flux de travail, mais l'utilisateur est ensuite authentifié et autorisé via le modèle d'identité Workday. L'agent n'agit qu'au nom de cet utilisateur précis, dans le périmètre exact de ses droits actuels. Le positionnement de Workday sur ce marché repose sur une réalité déjà bien établie : des fournisseurs d'identité majeurs comme Okta vérifient déjà leurs données en interrogeant Workday, qui fait de facto office de système de référence organisationnelle pour de nombreuses grandes entreprises. Cette position centrale lui permet d'inférer les hiérarchies et structures de ses clients directement à partir des données qu'ils lui confient. Des praticiens du secteur confirment que cette architecture n'est pas un choix technique parmi d'autres. Dan Obendorfer, directeur produit chez Würk, est catégorique : "Si vos permissions sont définies ailleurs que là où les données vivent réellement, vous avez déjà perdu." Kadan Stadelmann, CTO et cofondateur de Compance.AI, abonde dans le même sens : sans traçabilité claire sur la propriété, les coûts et les actions des agents, "c'est le chaos". La course à l'agent autonome en entreprise se jouera donc moins sur la puissance des modèles que sur la capacité à ancrer la gouvernance dans le système qui fait autorité.

UELes grandes entreprises européennes utilisant Workday pour leurs RH et finances sont directement concernées par cette architecture de gouvernance des agents IA.

💬 Le vrai frein pour les agents en entreprise, c'est pas le modèle, c'est le "t'as le droit de faire ça ou pas". Workday l'a compris avant tout le monde, et leur position est solide : quand t'es déjà le système qui dit qui est qui dans l'organigramme, t'as une longueur d'avance que personne ne peut copier juste en branchant une API. Sur la paie et la compta, là où une erreur ne se corrige pas avec un "oh pardon", c'est exactement le bon endroit pour poser la couche de gouvernance.

OutilsOutil
1 source
Agentforce Vibes 2.0 de Salesforce s'attaque à un problème méconnu : la surcharge de contexte dans les agents IA
4VentureBeat AI 

Agentforce Vibes 2.0 de Salesforce s'attaque à un problème méconnu : la surcharge de contexte dans les agents IA

La plateforme australienne de financement de startups VentureCrowd a réduit de 90 % la durée de certains cycles de développement front-end grâce à des agents IA de codage, mais cette performance a eu un prix. Diego Mogollon, directeur produit de l'entreprise, a constaté que les agents raisonnaient exclusivement à partir des données accessibles au moment de l'exécution, ce qui les rendait «confiants et faux» dès que le contexte fourni était incomplet ou mal structuré. Le problème identifié porte un nom : le «context bloat», ou gonflement de contexte, un phénomène où les agents IA accumulent progressivement trop de données, d'instructions et d'outils au fil de workflows de plus en plus complexes. Pour y répondre, Salesforce vient de publier Agentforce Vibes 2.0, une mise à jour de sa plateforme de développement d'agents intégrée à l'écosystème Salesforce, disponible dès le plan gratuit. Cette version étend la compatibilité avec des frameworks tiers comme ReAct et introduit deux nouveaux concepts : les Abilities, qui définissent ce que l'agent cherche à accomplir, et les Skills, qui désignent les outils qu'il utilisera pour y parvenir. Le problème du gonflement de contexte est plus structurel qu'il n'y paraît. Plus un agent dispose de contexte, plus il consomme de tokens, ce qui ralentit les traitements et fait grimper les coûts. Pour les entreprises qui déploient ces systèmes à grande échelle, cela se traduit par une perte de contrôle sur la latence, la fiabilité et les budgets. Mogollon résume le paradoxe central : «Ce n'est pas un problème d'IA, c'est un problème de contexte déguisé en problème d'IA, et c'est le premier mode d'échec que j'observe dans les implémentations agentiques.» VentureCrowd a d'ailleurs dû restructurer l'ensemble de sa base de code avant même de pouvoir déployer des agents efficaces, les agents amplifiant les défauts des données qu'ils reçoivent. L'approche de Salesforce avec Agentforce Vibes 2.0 se distingue par son intégration native aux modèles de données existants des entreprises, plutôt que de chercher à minimiser le contexte. D'autres plateformes adoptent une philosophie différente : Claude Code et Codex d'OpenAI privilégient une exécution autonome, où les agents lisent des fichiers et exécutent des commandes en continu, avec des mécanismes de compaction activés lorsque le contexte devient trop volumineux. La tendance générale est à la gestion du contexte croissant plutôt qu'à sa limitation, ce qui soulève des questions de fond pour l'ensemble du secteur. Avec la multiplication des workflows agentiques complexes en entreprise, la maîtrise du contexte s'impose comme un enjeu technique et économique de premier plan, et les éditeurs qui proposeront les architectures les plus efficientes sur ce point prendront un avantage concurrentiel décisif.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic