La dette de prompts, de récupération et d'évaluation redéfinit discrètement le risque de l'IA en entreprise

SAP : comment la gouvernance de l'IA en entreprise protège les marges bénéficiaires

Manos Raptopoulos, président mondial du succès client pour l'Europe, l'APAC, le Moyen-Orient et l'Afrique chez SAP, a posé un constat sans appel lors de l'AI & Big Data Expo North America : la distance entre 90 % et 100 % de précision n'est pas une nuance graduelle dans le monde de l'entreprise, c'est une différence existentielle. Les systèmes d'IA dits "agentiques" sont désormais capables de planifier, raisonner, coordonner d'autres agents et exécuter des flux de travail de façon autonome. Mais leur déploiement à grande échelle expose les organisations à des risques opérationnels sévères si leur gouvernance reste au stade de la liste de conformité plutôt que de devenir une contrainte d'ingénierie à part entière. Intégrer des bases de données vectorielles modernes aux architectures relationnelles historiques exige des investissements massifs, et restreindre la boucle d'inférence de l'agent pour éviter les hallucinations dans les chaînes financières ou logistiques fait grimper la latence et les coûts de calcul cloud, modifiant les projections de rentabilité initiales. L'enjeu dépasse la simple fiabilité technique : il touche directement les marges et la responsabilité juridique des entreprises. Raptopoulos identifie trois questions que les conseils d'administration doivent impérativement résoudre avant tout déploiement agentique : qui est responsable en cas d'erreur d'un agent, comment tracer les décisions automatisées pour les audits, et à quel seuil précis l'humain doit reprendre la main. Sans ces réponses, l'expansion incontrôlée des agents risque de reproduire les crises du "shadow IT" de la décennie passée, avec des conséquences potentiellement bien plus graves, car ces systèmes agissent directement sur des données sensibles et influencent des décisions à l'échelle de l'organisation entière. Des données maîtres fragmentées, des systèmes métiers en silos ou des ERP surchargés de personnalisations introduisent une imprévisibilité dangereuse au pire moment : lorsqu'un agent autonome s'appuie sur ces fondations défaillantes pour formuler une recommandation touchant la trésorerie, les relations clients ou la conformité réglementaire, les dégâts opérationnels se propagent instantanément. Ce diagnostic s'inscrit dans un contexte de fragmentation géopolitique croissante. Les mandats de souveraineté des données et les exigences de localisation dans des marchés clés comme New York, Francfort, Riyad ou Singapour complexifient la définition des périmètres de responsabilité. SAP avance que l'intelligence d'entreprise authentique ne peut pas reposer sur des grands modèles de langage entraînés sur du texte générique : elle doit être ancrée dans les données propriétaires de l'entreprise, commandes, factures, dossiers logistiques et données financières incluses. Raptopoulos en fait un mandat de direction générale, non un projet informatique : intégrer un contrôle déterministe au coeur d'une intelligence probabiliste est la condition pour que l'IA agentique devienne un levier de rentabilité plutôt qu'une source de risque systémique.

L'IA d'entreprise comme couche d'exploitation

La vraie ligne de fracture dans l'IA d'entreprise n'est pas celle que l'on suit habituellement dans les médias. Pendant que le débat public se focalise sur les benchmarks des modèles fondateurs, GPT contre Gemini, scores de raisonnement, gains marginaux de performance, l'avantage décisif se joue ailleurs : dans la couche opérationnelle, c'est-à-dire l'ensemble formé par les logiciels de workflow, la capture de données, les boucles de rétroaction et la gouvernance qui s'intercale entre les modèles d'IA et le travail réel. Des acteurs comme OpenAI et Anthropic vendent l'intelligence comme un service : on a un problème, on appelle une API, on obtient une réponse. Cette intelligence est généraliste, largement sans mémoire d'une session à l'autre, et de plus en plus interchangeable. À l'opposé, les organisations établies ont la possibilité de traiter l'IA comme une couche opérationnelle permanente : chaque exception, chaque correction, chaque validation humaine devient un signal d'apprentissage, et l'intelligence s'améliore à mesure que la plateforme absorbe davantage de travail. Ce modèle inverse la relation traditionnelle entre humains et machines. Dans une organisation de services classique, les opérateurs utilisent des logiciels pour effectuer un travail d'expert : la technologie est le médium, le jugement humain est le produit. Une plateforme pensée nativement pour l'IA renverse cette logique : le système ingère un problème, applique la connaissance accumulée du domaine, exécute de manière autonome ce qu'il peut traiter avec une haute confiance, et renvoie vers des experts humains uniquement les sous-tâches qui requièrent un jugement que le système ne maîtrise pas encore. Cette inversion n'est pas qu'un simple redesign d'interface, elle exige une matière première que les startups ne peuvent pas fabriquer rapidement : des données opérationnelles propriétaires, une large base d'experts dont les décisions quotidiennes génèrent des signaux d'entraînement, et une connaissance tacite accumulée sur des années quant à la façon dont le travail complexe se fait réellement. C'est là où réside le véritable enjeu stratégique de la décennie. Le récit dominant affirme que les startups agiles vont surpasser les acteurs établis en construisant des systèmes AI-native from scratch. Si l'IA était avant tout un problème de modèles, cette thèse tiendrait. Mais dans beaucoup de secteurs d'entreprise, c'est un problème de systèmes, intégrations, permissions, évaluation, gestion du changement, où l'avantage revient à ceux qui sont déjà ancrés dans des workflows à fort volume et à forts enjeux. La société Ensemble illustre cette approche avec une stratégie de "distillation de connaissance" : transformer l'expertise tacite et périssable des meilleurs opérateurs en signaux réutilisables, puis réinjecter ces résultats dans les workflows pour que le système continue à progresser. Les ingrédients existent déjà chez les acteurs historiques ; la question est de savoir qui saura les convertir en avantage compétitif durable avant que la fenêtre ne se referme.

Anthropic veut contrôler mémoire, évaluations et orchestration des agents, de quoi inquiéter les entreprises

Quelques semaines seulement après le lancement de Claude Managed Agents, Anthropic a enrichi sa plateforme de trois nouvelles fonctionnalités majeures : « Dreaming », « Outcomes » et « Multi-Agent Orchestration ». Dreaming permet aux agents de réviser leurs sessions passées pour construire une mémoire évolutive et détecter des patterns jusque-là invisibles. Outcomes offre aux équipes la possibilité de définir des critères de succès précis pour mesurer la performance de leurs agents. Quant à Multi-Agent Orchestration, elle permet à un agent principal de décomposer des tâches complexes et de les déléguer à des agents spécialisés. L'objectif affiché d'Anthropic est de réduire au minimum l'intervention humaine dans la gestion des agents, en intégrant mémoire, évaluation et orchestration au sein d'une seule et même infrastructure hébergée. Ce repositionnement place Anthropic en concurrence directe avec un écosystème entier d'outils spécialisés que les entreprises utilisent aujourd'hui séparément : LangGraph et CrewAI pour l'orchestration, Pinecone pour la mémoire vectorielle à long terme, DeepEval pour l'évaluation externe, et des équipes humaines entières pour le contrôle qualité. En consolidant toutes ces couches dans un runtime unifié, Anthropic promet une traçabilité complète et un déploiement simplifié. Mais cette intégration verticale soulève des questions sérieuses pour les entreprises. La plateforme tourne sur une infrastructure qu'elles ne contrôlent pas, ce qui peut créer des problèmes de conformité sur la résidence des données, un point critique dans des secteurs régulés comme la finance ou la santé. Par ailleurs, les organisations déjà engagées dans de vastes chantiers de transformation IA ne peuvent pas forcément remplacer leurs systèmes existants du jour au lendemain sans casser leurs workflows. La vraie tension est celle du lock-in. En concentrant mémoire, orchestration et évaluation dans une même couche, Anthropic capte l'essentiel de l'architecture décisionnelle des agents, et les entreprises qui adoptent pleinement la plateforme se retrouvent structurellement dépendantes d'un seul fournisseur. Cette dynamique n'est pas propre à Anthropic : OpenAI et Microsoft poussent également vers des architectures intégrées, au motif que rapprocher orchestration et modèle améliore le contrôle et la cohérence. Mais le mouvement accélère une recomposition du marché où les couches intermédiaires, mémoire, routing, évaluation, risquent d'être absorbées par les grands modèles eux-mêmes. Les entreprises qui ont investi dans des stacks modulaires et flexibles devront arbitrer entre la commodité d'une plateforme tout-en-un et leur capacité à rester agiles face à un marché encore en pleine définition.

💬 Anthropic ne vend plus un modèle, il vend une plateforme, et la différence va se payer cash d'ici 18 mois. Mémoire, orchestration, évaluation dans un seul runtime hébergé, c'est séduisant pour les équipes qui gèrent 4 outils différents, mais ça fait une dépendance énorme sur l'architecture décisionnelle complète. Pour les boîtes françaises en finance ou santé, la question de la résidence des données n'est pas rhétorique.

Les entreprises élargissent leur adoption de l'IA tout en maintenant le contrôle

La majorité des entreprises déploient aujourd'hui l'intelligence artificielle de manière progressive et encadrée, loin des systèmes autonomes qui font régulièrement la une. Selon une étude de McKinsey & Company, la plupart des organisations utilisent désormais l'IA dans au moins un domaine de leur activité, mais rares sont celles qui l'ont déployée à l'échelle de l'ensemble de l'entreprise. Un exemple concret illustre cette tendance : S&P Global Market Intelligence a intégré des outils d'IA dans sa plateforme Capital IQ Pro, utilisée par des analystes financiers pour examiner des dépôts réglementaires, des transcriptions d'appels de résultats et des données de marché. Le système permet d'interroger de vastes ensembles de données via une interface conversationnelle, mais les résultats restent systématiquement ancrés dans des sources financières vérifiées, avec la possibilité de remonter aux documents d'origine pour limiter les erreurs. Ce choix d'une IA d'assistance plutôt qu'autonome n'est pas anodin dans des secteurs où une erreur peut entraîner des pertes financières importantes ou engager des responsabilités légales. En finance, les outils comme Capital IQ Pro sont conçus pour éclairer le jugement des analystes, pas pour le remplacer. La décision finale reste humaine. McKinsey souligne par ailleurs un écart croissant entre le déploiement de l'IA et la génération de valeur mesurable : de nombreuses organisations peinent à traduire leurs investissements en résultats concrets. Ce fossé pousse les directions à exiger des systèmes capables d'expliquer leurs sorties, de citer leurs sources et d'opérer dans des périmètres définis, trois conditions essentielles pour établir la confiance dans des environnements réglementés. Derrière cette prudence se dessine un enjeu de gouvernance qui mobilise de plus en plus d'acteurs. S&P Global Market Intelligence note que les organisations bâtissent activement des cadres pour gérer les risques liés à l'IA, notamment la qualité des données et les biais des modèles. Les systèmes agents, capables de planifier et d'agir sans intervention humaine directe, suscitent un intérêt grandissant, mais la majorité des entreprises en est encore aux premières étapes d'expérimentation. Les progrès continus sur les grands modèles de langage laissent entrevoir des usages plus autonomes à terme, en analyse financière, support client ou gestion de chaîne logistique. Ces questions seront au coeur de l'AI & Big Data Expo North America 2026, qui se tiendra les 18 et 19 mai prochains, avec S&P Global Market Intelligence parmi les sponsors, et des sessions dédiées à la gouvernance de l'IA et à son usage dans les industries régulées.