SAP : comment la gouvernance de l'IA en entreprise protège les marges bénéficiaires

IA en entreprise : sans méthode, les coûts dépassent les bénéfices

Tristan Duranté, cofondateur du cabinet Studeria et spécialiste de l'intelligence artificielle appliquée, alerte sur un décalage croissant entre l'équipement des entreprises françaises en outils d'IA générative et leur capacité réelle à en tirer des bénéfices mesurables. Selon lui, les logiciels dotés d'intelligence artificielle se sont diffusés dans la quasi-totalité des fonctions de l'entreprise, de la rédaction à la recherche documentaire en passant par l'automatisation des tâches administratives, mais cette diffusion technologique n'a pas été accompagnée d'une transformation équivalente des méthodes de travail. Beaucoup d'organisations, notamment des PME, multiplient les essais de solutions différentes sans revoir leurs processus internes, ce qui limite l'exploitation réelle des investissements consentis dans la recherche et l'innovation. L'expert pointe aussi la montée de ce qu'il appelle la « shadow AI », c'est-à-dire l'usage par les salariés d'outils d'intelligence artificielle non validés ni encadrés par leur employeur, un phénomène favorisé par la simplicité d'accès aux assistants conversationnels et aux générateurs de contenus. Ce constat a des implications concrètes pour les directions d'entreprise qui accumulent abonnements et licences sans stratégie de données définie en amont. Tristan Duranté résume la situation en soulignant qu'« accumuler des licences technologiques sans stratégie de données préalable ne garantit aucun retour sur investissement ». En clair, les dépenses en outils d'IA s'accumulent tandis que les gains de productivité restent difficiles à quantifier, faute de gouvernance claire sur l'usage des données et sur la cohérence des pratiques entre équipes. La généralisation de la shadow AI ajoute un risque supplémentaire, celui de la confidentialité des données sensibles de l'entreprise et du non-respect d'obligations réglementaires, à un moment où les cadres juridiques autour de l'intelligence artificielle se précisent en Europe. Pour les dirigeants, l'enjeu n'est donc plus seulement de s'équiper, mais de structurer l'adoption de ces outils pour que les investissements se traduisent réellement en performance. Ce diagnostic s'inscrit dans un contexte où les projets d'intelligence artificielle en entreprise restent encore majoritairement pilotés par les équipes techniques, alors que les usages concernent tout autant les ressources humaines, les fonctions commerciales, le marketing ou les services administratifs, ces métiers étant les premiers concernés par les processus que l'IA vise à transformer. Tristan Duranté plaide pour la diffusion d'une véritable culture de l'intelligence artificielle à l'échelle de toute l'organisation, ce qui suppose un travail préalable sur la qualité des données, une révision des procédures internes et des formations adaptées à chaque métier plutôt qu'à la seule direction informatique. Selon lui, les entreprises qui engagent dès maintenant cette montée en compétences prendront une avance durable, alors que les usages de l'intelligence artificielle sont appelés à devenir de plus en plus structurants dans les années à venir pour l'ensemble des secteurs économiques.

IBM : une gouvernance rigoureuse de l'IA protège les marges des entreprises

Rob Thomas, vice-président senior et directeur commercial d'IBM, a récemment exposé une thèse structurante pour les décideurs technologiques : les logiciels suivent une trajectoire prévisible, passant du statut de produit à celui de plateforme, puis d'infrastructure fondamentale. Chaque transition modifie radicalement les règles du jeu. IBM estime que l'intelligence artificielle franchit actuellement ce dernier seuil dans l'architecture des grandes entreprises, passant d'un outil expérimental à une couche opérationnelle centrale, intégrée dans la sécurité réseau, la génération de code, les décisions automatisées et la création de valeur commerciale. Cette évolution a été mise en lumière par la préversion de Claude Mythos, le nouveau modèle d'Anthropic capable, selon l'entreprise, de détecter et exploiter des vulnérabilités logicielles à un niveau comparable aux meilleurs experts humains. Face à ce pouvoir, Anthropic a lancé le projet Glasswing, une initiative sélective visant à placer ces capacités en priorité entre les mains des équipes de défense réseau. Pour IBM, cette réalité crée une exposition opérationnelle majeure pour toute organisation dont la stratégie repose sur des modèles d'IA fermés et propriétaires. Lorsqu'un système autonome peut rédiger des exploits et influencer l'environnement de sécurité global, concentrer la compréhension de ces systèmes chez un petit nombre de fournisseurs devient un risque structurel grave. Les architectures opaques génèrent également des frictions concrètes : connecter un modèle propriétaire à des bases de données vectorielles d'entreprise ou à des lacs de données sensibles crée des goulots d'étranglement de débogage considérables. Quand un modèle produit des sorties anormales ou que le taux d'hallucination augmente, les équipes techniques n'ont pas la visibilité interne nécessaire pour déterminer si l'erreur provient du pipeline de génération augmentée par récupération ou des poids du modèle de base. S'y ajoutent des problèmes de latence liés à l'intégration d'architectures sur site avec des modèles cloud verrouillés, ainsi que des coûts de calcul liés aux appels API continus qui érodent précisément les marges que ces systèmes sont censés préserver. La thèse d'IBM s'inscrit dans un débat plus large sur l'avenir de l'IA en entreprise : à l'ère des modèles-produits, la fermeture était une stratégie défendable et lucrative. À l'ère de l'IA-infrastructure, elle devient un handicap compétitif et sécuritaire. Aucun fournisseur unique ne peut anticiper tous les vecteurs d'attaque, les défaillances système ou les besoins opérationnels d'un écosystème aussi hétérogène que celui des grandes entreprises. IBM plaide donc pour une gouvernance ouverte et inspectable de l'IA, où la priorité n'est plus seulement ce que les modèles peuvent faire, mais comment ils sont construits, audités et améliorés dans la durée. Dans ce contexte, des initiatives comme Glasswing d'Anthropic signalent une prise de conscience sectorielle, mais la question de qui contrôle et comprend réellement ces infrastructures critiques reste entière.

Le problème de gouvernance dans l'IA en entreprise : une question de propriété, pas de technologie

Une nouvelle étude de VentureBeat Pulse Research, menée auprès de 145 responsables d'entreprises de 100 salariés et plus au deuxième trimestre 2026 (vague de juin), révèle un décalage croissant entre l'expansion rapide de l'intelligence artificielle en entreprise et la capacité à la gouverner. Près de trois entreprises sur cinq (58%) déclarent étendre significativement leurs initiatives IA, mais 85% d'entre elles font tourner deux plateformes ou plus se revendiquant chacune comme la couche IA « principale », et seulement 8% ont réussi à consolider leur infrastructure autour d'une seule solution. Autre signal préoccupant : 40% des répondants se disent très confiants dans leur capacité à détecter un modèle qui dérive, se comporte de façon dangereuse ou tombe en panne en production, mais seuls 10% appuient cette confiance sur une surveillance et des alertes automatisées, les autres s'en remettant à une revue humaine manuelle. Sur le plan de la gouvernance, seuls 38% des organisations confient le pilotage de l'IA à une équipe centrale, tandis que 20% laissent chaque équipe gérer sa propre plateforme indépendamment. L'obstacle le plus cité à une gouvernance transversale reste l'absence d'un responsable unique et clairement identifié (32%), et environ une entreprise sur six (17%) reconnaît qu'aucun rôle ne porte formellement cette responsabilité. Ce fossé de contrôle a des conséquences financières bien réelles. Près de la moitié des entreprises interrogées (49%) citent le « shadow AI », c'est-à-dire des pipelines d'agents autonomes déployés sans autorisation sur des cartes bancaires professionnelles et échappant à toute supervision centrale, comme leur défaillance de contrôle la plus grave. Un quart des répondants (25%) rapportent avoir été confrontés à une facture incontrôlée provoquée par un agent bloqué dans une boucle infinie. Ces chiffres illustrent un problème structurel : les entreprises ont normalisé leur ambition en matière d'IA bien avant de normaliser les mécanismes permettant de la maîtriser, qu'il s'agisse de surveiller les coûts, de vérifier la fiabilité des modèles ou d'attribuer une responsabilité claire. Cette étude s'inscrit dans un contexte où l'adoption des agents autonomes s'accélère plus vite que la mise en place de garde-fous adaptés. L'échantillon, composé majoritairement de cadres techniques et dirigeants (consultants et conseillers à 20%, directeurs informatiques et de la sécurité à 18%, directeurs de l'ingénierie à 14%), couvre principalement le secteur technologique (41%), suivi des services financiers et professionnels (12% chacun). Les auteurs de l'étude précisent qu'il s'agit d'un échantillon auto-sélectionné et non d'un sondage probabiliste, invitant à lire les résultats comme une tendance directionnelle plutôt qu'une mesure exacte. Reste que le constat global converge avec d'autres alertes du secteur : sans propriétaire clairement désigné pour l'IA à l'échelle de l'entreprise, la multiplication des plateformes et des agents autonomes risque de transformer la promesse de productivité en une source de risques opérationnels et financiers difficiles à anticiper.

💬 Le vrai coupable n'est pas la techno, c'est l'absence de nom sur la porte : 62% des boîtes n'ont personne qui possède l'IA à l'échelle de l'entreprise, alors banane, ça part en freestyle. Le chiffre qui pique, c'est ces 25% qui se sont pris une facture salée à cause d'un agent coincé dans une boucle infinie, sans personne pour appuyer sur stop. Selon Le Fil IA, la prochaine grosse crise IA en entreprise ne viendra pas d'un modèle défaillant mais d'une ligne de responsabilité qui n'existe nulle part sur l'organigramme.

VentureBeat : la gouvernance des agents IA en entreprise accuse un retard

VentureBeat Research a mené en juin cinq enquêtes parallèles couvrant l'ensemble de la pile technologique des agents IA en entreprise, et le constat est net : les entreprises ont déployé leurs agents avant même de mettre en place les contrôles nécessaires pour les encadrer, et elles le savaient. Cinq couches de gouvernance ont été mesurées : l'identité, qui détermine ce qu'un agent est autorisé à faire et sous quelles autorisations ; l'évaluation, qui juge la qualité du travail produit ; la télémétrie des coûts ; la couche de contexte, qui fournit les données métier aux agents ; et l'orchestration, qui coordonne les tâches multi-étapes. Dans chacune de ces cinq couches, 57 à 68 % des entreprises prévoient de changer de fournisseur ou d'en ajouter un nouveau dans les douze prochains mois, et environ un tiers d'entre elles comptent le faire dès ce trimestre. Autre révélation majeure : 71 % des entreprises admettent qu'un quart ou moins de leurs "agents" déployés sont réellement capables d'accomplir des tâches autonomes en plusieurs étapes, seules 10 % affirmant que ces véritables agents constituent la majorité de leur parc. La plupart des outils qualifiés d'"agents" ne seraient donc que des chatbots relookés. Cette autonomie précoce expose les entreprises à des risques concrets. Les deux tiers d'entre elles autorisent déjà un agent à pousser du code ou une modification système en production sur la seule base de résultats d'évaluation automatisés, sans validation humaine, ou s'orientent activement vers ce modèle d'ici un an, alors que seulement 5 % font pleinement confiance à ces évaluations, et que la moitié des entreprises ont vu un agent ayant pourtant réussi ses tests internes provoquer une panne visible par les clients au cours de l'année écoulée. Côté sécurité, 69 % des entreprises laissent au moins certains agents partager des identifiants plutôt que d'avoir chacun sa propre identité, une pratique corrélée à un taux d'incidents de sécurité de 63,5 % (47 cas sur 74), contre 40,9 % (9 sur 22) chez celles appliquant une identité dédiée à chaque agent. Plus de 8 entreprises sur 10 exploitant leurs propres GPU déclarent un taux d'utilisation de 50 % ou moins, et seules 44 % suivent rigoureusement les coûts et le retour sur investissement de ce calcul. Sur le fond, ces failles traduisent une gouvernance des données qui n'a pas suivi le rythme du déploiement : 57 % des entreprises ont retracé, au cours des six derniers mois, une réponse d'agent erronée mais formulée avec assurance jusqu'à un problème de contexte métier mal maîtrisé (métriques fausses, définitions obsolètes, documents manquants), un incident que la plupart ont connu plus d'une fois. Fait notable, aucune de ces cinq couches de contrôle ne compte aujourd'hui d'acteur dominant établi : les entreprises s'appuient encore majoritairement sur les outils intégrés par défaut de leurs fournisseurs existants, ce qui laisse le marché grand ouvert à de nouveaux entrants capables de combler ces lacunes de gouvernance avant que les habitudes ne se figent.

💬 Le chiffre qui frappe : 71% des boîtes admettent qu'un quart ou moins de leurs "agents" font vraiment du multi-étapes en autonomie, le reste c'est du chatbot repeint. On a déployé l'autonomie avant la gouvernance, et ça se voit : deux tiers laissent un agent pousser en prod sur la seule foi d'une éval automatique, alors que 5% à peine lui font confiance, et la moitié ont déjà eu une panne client causée par un agent qui avait pourtant réussi ses tests. Le vrai signal pour moi, c'est qu'aucune des cinq couches de contrôle n'a de leader établi, le marché de la gouvernance d'agents est encore grand ouvert, et ça va se jouer vite.