VentureBeat : la gouvernance des agents IA en entreprise accuse un retard

Le problème de gouvernance dans l'IA en entreprise : une question de propriété, pas de technologie

Voici l'article traduit et résumé : Une nouvelle étude de VentureBeat Pulse Research, menée auprès de 145 responsables d'entreprises de 100 salariés et plus au deuxième trimestre 2026 (vague de juin), révèle un décalage croissant entre l'expansion rapide de l'intelligence artificielle en entreprise et la capacité à la gouverner. Près de trois entreprises sur cinq (58%) déclarent étendre significativement leurs initiatives IA, mais 85% d'entre elles font tourner deux plateformes ou plus se revendiquant chacune comme la couche IA « principale », et seulement 8% ont réussi à consolider leur infrastructure autour d'une seule solution. Autre signal préoccupant : 40% des répondants se disent très confiants dans leur capacité à détecter un modèle qui dérive, se comporte de façon dangereuse ou tombe en panne en production, mais seuls 10% appuient cette confiance sur une surveillance et des alertes automatisées, les autres s'en remettant à une revue humaine manuelle. Sur le plan de la gouvernance, seuls 38% des organisations confient le pilotage de l'IA à une équipe centrale, tandis que 20% laissent chaque équipe gérer sa propre plateforme indépendamment. L'obstacle le plus cité à une gouvernance transversale reste l'absence d'un responsable unique et clairement identifié (32%), et environ une entreprise sur six (17%) reconnaît qu'aucun rôle ne porte formellement cette responsabilité. Ce fossé de contrôle a des conséquences financières bien réelles. Près de la moitié des entreprises interrogées (49%) citent le « shadow AI », c'est-à-dire des pipelines d'agents autonomes déployés sans autorisation sur des cartes bancaires professionnelles et échappant à toute supervision centrale, comme leur défaillance de contrôle la plus grave. Un quart des répondants (25%) rapportent avoir été confrontés à une facture incontrôlée provoquée par un agent bloqué dans une boucle infinie. Ces chiffres illustrent un problème structurel : les entreprises ont normalisé leur ambition en matière d'IA bien avant de normaliser les mécanismes permettant de la maîtriser, qu'il s'agisse de surveiller les coûts, de vérifier la fiabilité des modèles ou d'attribuer une responsabilité claire. Cette étude s'inscrit dans un contexte où l'adoption des agents autonomes s'accélère plus vite que la mise en place de garde-fous adaptés. L'échantillon, composé majoritairement de cadres techniques et dirigeants (consultants et conseillers à 20%, directeurs informatiques et de la sécurité à 18%, directeurs de l'ingénierie à 14%), couvre principalement le secteur technologique (41%), suivi des services financiers et professionnels (12% chacun). Les auteurs de l'étude précisent qu'il s'agit d'un échantillon auto-sélectionné et non d'un sondage probabiliste, invitant à lire les résultats comme une tendance directionnelle plutôt qu'une mesure exacte. Reste que le constat global converge avec d'autres alertes du secteur : sans propriétaire clairement désigné pour l'IA à l'échelle de l'entreprise, la multiplication des plateformes et des agents autonomes risque de transformer la promesse de productivité en une source de risques opérationnels et financiers difficiles à anticiper.

💬 Le vrai coupable n'est pas la techno, c'est l'absence de nom sur la porte : 62% des boîtes n'ont personne qui possède l'IA à l'échelle de l'entreprise, alors banane, ça part en freestyle. Le chiffre qui pique, c'est ces 25% qui se sont pris une facture salée à cause d'un agent coincé dans une boucle infinie, sans personne pour appuyer sur stop. Selon Le Fil IA, la prochaine grosse crise IA en entreprise ne viendra pas d'un modèle défaillant mais d'une ligne de responsabilité qui n'existe nulle part sur l'organigramme.

SAP : comment la gouvernance de l'IA en entreprise protège les marges bénéficiaires

Manos Raptopoulos, président mondial du succès client pour l'Europe, l'APAC, le Moyen-Orient et l'Afrique chez SAP, a posé un constat sans appel lors de l'AI & Big Data Expo North America : la distance entre 90 % et 100 % de précision n'est pas une nuance graduelle dans le monde de l'entreprise, c'est une différence existentielle. Les systèmes d'IA dits "agentiques" sont désormais capables de planifier, raisonner, coordonner d'autres agents et exécuter des flux de travail de façon autonome. Mais leur déploiement à grande échelle expose les organisations à des risques opérationnels sévères si leur gouvernance reste au stade de la liste de conformité plutôt que de devenir une contrainte d'ingénierie à part entière. Intégrer des bases de données vectorielles modernes aux architectures relationnelles historiques exige des investissements massifs, et restreindre la boucle d'inférence de l'agent pour éviter les hallucinations dans les chaînes financières ou logistiques fait grimper la latence et les coûts de calcul cloud, modifiant les projections de rentabilité initiales. L'enjeu dépasse la simple fiabilité technique : il touche directement les marges et la responsabilité juridique des entreprises. Raptopoulos identifie trois questions que les conseils d'administration doivent impérativement résoudre avant tout déploiement agentique : qui est responsable en cas d'erreur d'un agent, comment tracer les décisions automatisées pour les audits, et à quel seuil précis l'humain doit reprendre la main. Sans ces réponses, l'expansion incontrôlée des agents risque de reproduire les crises du "shadow IT" de la décennie passée, avec des conséquences potentiellement bien plus graves, car ces systèmes agissent directement sur des données sensibles et influencent des décisions à l'échelle de l'organisation entière. Des données maîtres fragmentées, des systèmes métiers en silos ou des ERP surchargés de personnalisations introduisent une imprévisibilité dangereuse au pire moment : lorsqu'un agent autonome s'appuie sur ces fondations défaillantes pour formuler une recommandation touchant la trésorerie, les relations clients ou la conformité réglementaire, les dégâts opérationnels se propagent instantanément. Ce diagnostic s'inscrit dans un contexte de fragmentation géopolitique croissante. Les mandats de souveraineté des données et les exigences de localisation dans des marchés clés comme New York, Francfort, Riyad ou Singapour complexifient la définition des périmètres de responsabilité. SAP avance que l'intelligence d'entreprise authentique ne peut pas reposer sur des grands modèles de langage entraînés sur du texte générique : elle doit être ancrée dans les données propriétaires de l'entreprise, commandes, factures, dossiers logistiques et données financières incluses. Raptopoulos en fait un mandat de direction générale, non un projet informatique : intégrer un contrôle déterministe au coeur d'une intelligence probabiliste est la condition pour que l'IA agentique devienne un levier de rentabilité plutôt qu'une source de risque systémique.

OpenAI Presence vend des agents IA d'entreprise avec ingénieurs inclus

OpenAI a annoncé le 22 juillet le lancement de Presence, une nouvelle offre d'agents IA pour l'entreprise qui rompt avec le modèle habituel de vente par clé API ou licence. Contrairement aux produits en libre-service, Presence est distribué en disponibilité générale limitée et déployé par les Forward Deployed Engineers d'OpenAI, en collaboration avec un groupe restreint d'intégrateurs de systèmes mondiaux sélectionnés. Chaque déploiement démarre autour d'une tâche précise, comme la résolution d'un litige de facturation, le traitement d'une réclamation d'assurance ou une demande de support informatique interne. L'agent ne reçoit que les connaissances et les accès système strictement nécessaires à cette tâche, et c'est le client qui définit les règles d'action, les moments où une validation humaine est requise et les cas de transfert vers un opérateur. Une fois en service, l'outil Codex analyse les sessions de production et les cas d'escalade pour proposer des ajustements, que l'équipe cliente teste et valide avant tout déploiement. OpenAI détaille un processus en six étapes, du cadrage des objectifs métier jusqu'à l'itération post-lancement, en passant par la revue de sécurité, de confidentialité et juridique, puis des tests de simulation avant un déploiement progressif. Cette approche très encadrée répond à un problème documenté par le cabinet Gartner, qui estime que plus de 40% des projets d'IA agentique seront abandonnés d'ici fin 2027, non pas à cause des limites des modèles mais faute de gouvernance, d'objectifs métier clairs et de discipline opérationnelle. Presence intègre justement des simulateurs qui vérifient si l'agent atteint le bon résultat, respecte les règles fixées, utilise correctement ses outils et sait quand transmettre un dossier à un humain, avant même la mise en contact avec de vrais utilisateurs. Des garde-fous interviennent dès qu'une interaction dépasse un périmètre défini, tandis que les historiques d'action permettent un audit complet et que les mises à jour sont déployées avec possibilité de retour arrière. Pour les entreprises, qui ont découvert ces deux dernières années que la difficulté d'un agent en production tient surtout à l'intégration, aux droits d'accès et à la gestion du changement, cette offre déplace une charge de travail auparavant assumée en interne vers le fournisseur lui-même. L'accès à Presence dépend de trois critères, l'adéquation du cas d'usage, la préparation technique du client et la capacité de déploiement disponible chez OpenAI, ce dernier point relevant davantage du conseil que du logiciel puisque des ingénieurs habilités à opérer dans les systèmes bancaires ou sensibles d'un client ne peuvent pas être multipliés comme des instances de calcul. Le titre de Forward Deployed Engineer, emprunté à Palantir, illustre ce choix d'un modèle économique proche du conseil plutôt que de l'inférence facturée à l'usage. En se positionnant à la fois comme fournisseur du modèle et comme intégrateur, OpenAI soulève une question de responsabilité en cas d'erreur d'application d'une politique en production, qui devra être clarifiée contractuellement plutôt que présumée.

L'écart d'évaluation des agents : les organisations d'IA en entreprise ont un problème d'alignement avec la réalité, pas de couverture, et déploient quand même en production

Cent cinquante-sept entreprises ont participé à cette enquête menée par VentureBeat en juin 2026 dans le cadre de sa série Pulse Research, consacrée à la manière dont les organisations évaluent la fiabilité de leurs agents IA. Le constat central est frappant: la moitié des entreprises interrogées ont déployé, au cours de l'année écoulée, un agent ou une fonctionnalité basée sur un LLM qui avait pourtant réussi ses tests internes avant de provoquer un incident visible par les clients, et un quart d'entre elles ont connu ce type de défaillance plus d'une fois. Seules 5% des organisations disent faire pleinement confiance à leurs méthodes d'évaluation automatisée, la faiblesse la plus souvent citée (29%) étant le décalage entre les résultats des tests et les performances réelles en production. Malgré cela, 66% des entreprises autorisent déjà un déploiement entièrement automatisé, sans supervision humaine, pour les agents jugés à faible risque (34%), ou construisent activement leurs systèmes pour y parvenir dans les douze prochains mois (33%). L'échantillon, composé à 38% de décideurs finaux et 34% de personnes influentes dans les achats technologiques, provient majoritairement d'entreprises de taille moyenne, entre 100 et 2500 salariés, avec le secteur technologique en tête (23%), suivi du commerce de détail (15%) et de la santé (12%). Ce décalage entre l'autonomie accordée aux agents et la confiance réelle dans les outils censés la contrôler pose un problème concret pour les entreprises qui accélèrent l'adoption de l'IA agentique. Si un agent passe ses tests puis échoue devant un client, c'est la réputation de l'entreprise, sa relation commerciale et potentiellement sa conformité réglementaire qui sont en jeu. Le fait que les organisations avancent malgré tout vers plus d'automatisation, avec moins de supervision humaine, signifie qu'elles acceptent un risque opérationnel croissant sans disposer des garde-fous adéquats. Pour les équipes techniques, cela traduit une pression du marché à déployer vite, quitte à improviser la gouvernance des risques après coup plutôt qu'avant. Ce phénomène s'explique en partie par l'immaturité des outils d'évaluation disponibles: l'étude montre que les outils natifs fournis par les fournisseurs de modèles arrivent à égalité avec l'absence totale d'outillage dédié comme solution la plus répandue (17% chacun), et seulement un quart des entreprises effectuent des contrôles qualité en temps réel sur leur trafic de production réel. L'écosystème des plateformes de fiabilité et d'évaluation des agents reste donc fragmenté, ce qui alimente un cercle vicieux: plus les entreprises automatisent leurs déploiements, plus elles auraient besoin d'évaluations robustes, alors que ces dernières peinent justement à suivre le rythme de l'adoption. Les auteurs de l'étude soulignent que l'échantillon, bien que suffisamment large pour dégager des tendances, reste auto-sélectionné et penché vers le marché intermédiaire, ce qui invite à lire ces résultats comme un signal directionnel plutôt qu'une mesure précise de l'ensemble du marché.