Le problème de gouvernance dans l'IA en entreprise : une question de propriété, pas de technologie

SAP : comment la gouvernance de l'IA en entreprise protège les marges bénéficiaires

Manos Raptopoulos, président mondial du succès client pour l'Europe, l'APAC, le Moyen-Orient et l'Afrique chez SAP, a posé un constat sans appel lors de l'AI & Big Data Expo North America : la distance entre 90 % et 100 % de précision n'est pas une nuance graduelle dans le monde de l'entreprise, c'est une différence existentielle. Les systèmes d'IA dits "agentiques" sont désormais capables de planifier, raisonner, coordonner d'autres agents et exécuter des flux de travail de façon autonome. Mais leur déploiement à grande échelle expose les organisations à des risques opérationnels sévères si leur gouvernance reste au stade de la liste de conformité plutôt que de devenir une contrainte d'ingénierie à part entière. Intégrer des bases de données vectorielles modernes aux architectures relationnelles historiques exige des investissements massifs, et restreindre la boucle d'inférence de l'agent pour éviter les hallucinations dans les chaînes financières ou logistiques fait grimper la latence et les coûts de calcul cloud, modifiant les projections de rentabilité initiales. L'enjeu dépasse la simple fiabilité technique : il touche directement les marges et la responsabilité juridique des entreprises. Raptopoulos identifie trois questions que les conseils d'administration doivent impérativement résoudre avant tout déploiement agentique : qui est responsable en cas d'erreur d'un agent, comment tracer les décisions automatisées pour les audits, et à quel seuil précis l'humain doit reprendre la main. Sans ces réponses, l'expansion incontrôlée des agents risque de reproduire les crises du "shadow IT" de la décennie passée, avec des conséquences potentiellement bien plus graves, car ces systèmes agissent directement sur des données sensibles et influencent des décisions à l'échelle de l'organisation entière. Des données maîtres fragmentées, des systèmes métiers en silos ou des ERP surchargés de personnalisations introduisent une imprévisibilité dangereuse au pire moment : lorsqu'un agent autonome s'appuie sur ces fondations défaillantes pour formuler une recommandation touchant la trésorerie, les relations clients ou la conformité réglementaire, les dégâts opérationnels se propagent instantanément. Ce diagnostic s'inscrit dans un contexte de fragmentation géopolitique croissante. Les mandats de souveraineté des données et les exigences de localisation dans des marchés clés comme New York, Francfort, Riyad ou Singapour complexifient la définition des périmètres de responsabilité. SAP avance que l'intelligence d'entreprise authentique ne peut pas reposer sur des grands modèles de langage entraînés sur du texte générique : elle doit être ancrée dans les données propriétaires de l'entreprise, commandes, factures, dossiers logistiques et données financières incluses. Raptopoulos en fait un mandat de direction générale, non un projet informatique : intégrer un contrôle déterministe au coeur d'une intelligence probabiliste est la condition pour que l'IA agentique devienne un levier de rentabilité plutôt qu'une source de risque systémique.

Les organisations IA en entreprise ont un problème d'exécution, pas un problème de modèle, et la plupart construisent la mauvaise solution

Une enquête publiée par VentureBeat en mai 2026, menée auprès de 132 responsables technologiques de grandes entreprises, révèle que le principal problème de l'IA agentique en production n'est pas le modèle d'intelligence artificielle lui-même, mais l'infrastructure d'exécution. Conduite dans le cadre de la série Pulse Research, l'étude interroge des dirigeants de sociétés d'au moins 100 salariés, dont 35 % dans des entreprises de plus de 10 000 employés, couvrant des secteurs comme la technologie (42 %), les services financiers (20 %) ou la santé (7 %). Résultat central : les agents IA déployés sur des infrastructures sans état, scripts Python, chaînes LangChain, orchestrations improvisées, s'effondrent au contact des exigences opérationnelles réelles. Les redémarrages de conteneurs effacent le contexte, les coûts en tokens dépassent les prévisions, et les hallucinations produites à l'étape 3 d'un workflow se transforment en échecs catastrophiques à l'étape 12. Ce constat a des conséquences concrètes pour des milliers d'équipes d'ingénierie : la majorité d'entre elles consacrent davantage de temps à gérer la "plomberie" de ces systèmes qu'à construire l'intelligence qui était censée justifier l'investissement. L'enquête introduit une distinction structurante entre le "cerveau" (la capacité de raisonnement du modèle) et la "colonne vertébrale" (l'infrastructure d'exécution qui gère l'état, la résilience et la coordination). Si les problèmes d'intégration et de gouvernance restent le premier facteur de défaillance cité, les problèmes d'infrastructure arrivent juste derrière. Et 17 % des répondants identifient encore le modèle lui-même comme la cause principale, ce qui n'est pas anecdotique : ces entreprises signalent que les modèles restent insuffisamment fiables pour les cas limites que leurs workflows génèrent. Ce rapport s'inscrit dans une série de recherches commencée au premier trimestre 2026 autour du concept de "Governance Mirage" : 43 % des entreprises interrogées alors déclaraient avoir une équipe centrale responsable de la gouvernance IA, tandis que 23 % ne s'accordaient pas sur cette question, et 31 % pointaient l'opacité des fournisseurs comme obstacle principal. Le parallèle avec la vague RPA (automatisation robotique des processus) il y a dix ans est explicitement évoqué : un cimetière de pilotes brillants incapables de passer le cap du "Jour 2". Selon VentureBeat, les organisations qui survivront à ce qu'il appelle l'"Agentic Reckoning" seront celles qui traiteront la durabilité de l'infrastructure d'exécution comme une priorité d'ingénierie de premier ordre, et non comme un problème à corriger à coups de relances et de prompts.

IBM et Google Cloud veulent accélérer l’adoption de l’IA dans les entreprises

IBM et Google Cloud ont annoncé le 4 juin 2026 une expansion significative de leur partenariat stratégique, avec le lancement d'une Google Cloud Practice dédiée au sein d'IBM Consulting. Cette nouvelle entité regroupe des milliers de consultants IBM certifiés Google Cloud ainsi que des équipes d'ingénierie spécialisées, avec pour mission d'accompagner les grandes organisations dans le déploiement d'agents IA à l'échelle industrielle. Concrètement, les deux groupes combinent la plateforme Gemini Enterprise Agent de Google Cloud avec l'expertise sectorielle d'IBM Consulting pour couvrir huit domaines prioritaires : banque, assurance, administrations publiques, télécommunications, énergie, commerce de détail, cybersécurité et sciences de la vie. Les consultants IBM pourront désormais concevoir, déployer et gérer directement des agents IA sur l'infrastructure Google Cloud, en s'appuyant sur des composants préconfigurés et des méthodologies éprouvées. L'enjeu est de résoudre l'un des blocages les plus coûteux de l'industrie : la difficulté à transformer les projets pilotes en déploiements opérationnels rentables. De nombreuses entreprises ont expérimenté l'IA sans parvenir à en extraire une valeur concrète à grande échelle, faute d'intégration avec les systèmes critiques existants et de garanties suffisantes en matière de gouvernance et de conformité réglementaire. En proposant un cadre commun avec des agents sectoriels préconstruits, IBM et Google entendent réduire drastiquement le délai entre la conception et la mise en production, tout en permettant aux organisations d'automatiser des processus métiers complexes sans multiplier les développements sur mesure. Pour les secteurs fortement réglementés comme la finance ou la santé, la promesse est d'intégrer l'IA aux flux de travail existants tout en respectant les contraintes légales et sécuritaires. Cette initiative s'inscrit dans une tendance de fond qui voit les grands acteurs du cloud et du conseil former des alliances de plus en plus intégrées pour capter le marché de l'IA d'entreprise, estimé à plusieurs milliards de dollars. IBM, qui a repositionné une large partie de sa stratégie autour du conseil en transformation numérique depuis la cession de son activité infrastructure à Kyndryl en 2021, cherche à capitaliser sur sa présence dans les grandes entreprises pour distribuer les technologies de ses partenaires cloud. Google Cloud, de son côté, intensifie la mise en marché de Gemini via des alliances avec des intégrateurs disposant d'une relation de confiance établie avec les directions générales et les DSI. La prochaine étape attendue sera la mise sur le marché effective de ces agents sectoriels et les premiers retours de déploiements en production, qui conditionneront la crédibilité commerciale de cette alliance face à des concurrents comme Microsoft et Accenture ou AWS et Deloitte.

💬 Le vrai problème des pilotes IA qui restent des pilotes, IBM et Google s'y attaquent enfin avec du concret. Des milliers de consultants certifiés, des agents préconstruits par secteur, un cadre commun qui évite de tout recoder à chaque client, c'est le genre d'approche qui peut débloquer des grands comptes paralysés depuis deux ans sur les mêmes questions de conformité. Reste à voir ce que ça donne en prod, parce que Microsoft et Accenture ne regardent pas ça les bras croisés.

La dette de prompts, de récupération et d'évaluation redéfinit discrètement le risque de l'IA en entreprise

Une étude du MIT publiée en 2025 révèle que 95 % des projets d'IA n'atteignent jamais la production ou ne génèrent aucune valeur concrète. Dans le même temps, une enquête de S&P Global Market Intelligence indique que 42 % des entreprises ont abandonné plusieurs initiatives d'IA en 2025, contre seulement 17 % l'année précédente. Derrière ces chiffres alarmants se cache un phénomène encore mal nommé : la dette technique liée à l'IA, qui se manifeste sous quatre formes distinctes. La première, la dette de prompts, est la plus visible : des ajustements non documentés, des corrections rapides empilées, l'absence de versionnage, et le "prompt stuffing", l'injection excessive de contexte dans les requêtes, transforment les prompts en code non typé, non testé et fragile. La deuxième forme, la dette de dépendance aux modèles, découle du fait que la logique applicative repose désormais sur des modèles externes (OpenAI, Anthropic, Google...) que l'entreprise ne contrôle pas : une mise à jour du fournisseur peut dégrader silencieusement les performances sans que personne ne le détecte immédiatement. La dette de récupération (retrieval debt) affecte les systèmes RAG, qui puisent dans des bases documentaires d'entreprise souvent désordonnées, dupliquées ou obsolètes, générant des réponses techniquement exactes mais périmées, difficiles à détecter précisément parce qu'elles semblent plausibles. Enfin, la dette d'évaluation reflète l'absence de standards de test continus, de jeux de données de référence et de monitoring en temps réel des déploiements. Ces nouvelles formes de dette ont des conséquences concrètes pour les directions techniques. Contrairement à la dette logicielle classique, localisée dans une base de code et reproductible, la dette IA est distribuée sur des couches hétérogènes, prompts, modèles, pipelines de données, infrastructure, et se manifeste de façon intermittente, en raison de la nature probabiliste des systèmes d'IA. Un bug traditionnel se reproduit et se corrige ; une dérive de modèle ou un prompt dégradé peut passer inaperçu pendant des semaines, s'aggraver progressivement et ne se révéler qu'en production. CTO et CIO perdent ainsi la visibilité sur les performances réelles de leurs systèmes, sans équivalent à l'intégration continue (CI/CD) pour les prompts et les modèles. Ce constat s'inscrit dans une transformation plus profonde de la définition même du risque technique. Pendant vingt ans, la dette technique désignait une architecture vieillissante ou du code mal maintenu, des problèmes circonscrits et relativement maîtrisables. L'IA introduit des dépendances externes non contrôlées, des comportements non déterministes et des pipelines de données vivants, rendant les points de défaillance à la fois plus nombreux et plus difficiles à anticiper. Les entreprises qui déploient des agents et des applications fondées sur des API de modèles fondamentaux s'exposent à des risques systémiques si elles ne mettent pas en place dès maintenant des pratiques de gouvernance adaptées : versionnage des prompts, tests de régression sur les sorties de modèles, et monitoring continu post-déploiement. La prochaine vague d'échecs d'IA ne viendra probablement pas d'hallucinations spectaculaires, mais d'une accumulation silencieuse de dettes invisibles.