Wall Street débat de l'expansion massive de l'IA. Les entreprises répondent : 86 % disent que leurs GPU tournent à moitié capacité ou moins

5 % d'utilisation GPU : le problème d'infrastructure IA à 401 milliards de dollars que les entreprises ne peuvent plus ignorer

Les entreprises ont dépensé des milliards pour sécuriser des GPU à tout prix, et la facture est désormais présentée. Selon Gartner, l'infrastructure IA représente 401 milliards de dollars de nouvelles dépenses en 2025, mais des audits terrain révèlent une réalité bien plus sombre : le taux d'utilisation moyen des GPU en entreprise stagne à 5 %. Pendant deux ans, la panique du « GPU scramble » a poussé DSI et directions financières à constituer des réserves de capacité sous des cycles d'amortissement de trois à cinq ans. Ces actifs sont désormais des coûts fixes inscrits aux bilans, indépendamment de leur usage effectif. Les chiffres du Q1 2026 confirment le basculement : dans le baromètre de VentureBeat, le critère « accès aux GPU » est passé de 20,8 % à 15,4 % en un seul trimestre comme moteur principal des décisions d'achat, tandis que le coût par inférence et le TCO (coût total de possession) bondissaient de 34 % à 41 %, dépassant la performance pure comme critère dominant. À 5 % d'utilisation, l'arithmétique est brutale : pour chaque dollar investi en silicium, 95 centimes partent directement dans la marge des fournisseurs cloud. Dans n'importe quel autre département, un taux de gaspillage de 95 % serait un motif de licenciement ; dans l'infrastructure IA, on appelait ça de la « préparation ». Les grands groupes comme Intuit, Mastercard ou Pfizer, qui bénéficiaient de relations privilégiées avec AWS, Azure et GCP pour sécuriser des réservations de capacité, se sont retrouvés riches en GPU mais pauvres en production : des équipes internes paralysées par la gouvernance des données, la gravité des données et une immaturité architecturale persistante ont empêché toute valorisation réelle de ces ressources. Le discours dominant sur la rareté du silicium a servi d'écran commode pour masquer cette inefficacité structurelle. Ce virage marque la fin de l'ère du chèque en blanc. Le passage à une tarification à l'usage en 2026 transforme les architectures héritées des phases pilotes, pensées avec des tokens en coûts fixes, en véritables passifs financiers. Les agents en contexte long et les pipelines de récupération complexes, construits quand les tokens étaient un coût noyé dans des licences forfaitaires, deviennent intenables sous une facturation mesuréé. L'inférence n'est plus un projet tactique : c'est un modèle économique stratégique dont les unités économiques sont, pour la plupart des entreprises, encore insoutenables. La question n'est plus de savoir si les investissements passés étaient justifiés, mais comment extraire un retour mesurable d'une infrastructure déjà déployée avant que les cycles d'amortissement ne l'emportent.

💬 5 % d'utilisation, c'est le genre de stat qui ferait renvoyer n'importe quel responsable infra dans un département classique. La panique du GPU scramble a servi de couverture : on achetait du silicium pour ne pas rater le train, sans se demander si les équipes data étaient capables d'en faire quelque chose. Le basculement vers le pay-as-you-go va transformer ces réserves en passifs, et ça va faire des dégâts.

57% des entreprises ont vu leurs agents IA se tromper avec assurance, la solution est une couche de contexte pour agents, mais qui en dispose?

Un agent IA d'entreprise répond avec une confiance totale, mais le chiffre est faux. Personne ne s'en aperçoit avant qu'on ne remonte la source jusqu'à une définition de métrique obsolète ou un document que le système de récupération n'a jamais consulté. Le modèle n'a pas échoué : c'est le contexte qui lui a été fourni qui a fait défaut. Selon une enquête VB Pulse menée en juin 2026 auprès de 101 entreprises qualifiées de plus de 100 salariés, 57% d'entre elles ont retracé, au cours des six derniers mois, une réponse d'agent IA fausse mais formulée avec assurance jusqu'à un contexte métier manquant ou incohérent, et 31% affirment que le problème s'est reproduit plusieurs fois. La cause est simple à identifier : la récupération de documents (retrieval) reste la méthode par défaut pour fournir du contexte métier aux agents dans 38% des entreprises, presque deux fois plus que l'approche suivante. Or le choix du système de récupération privilégie la facilité d'ingestion et la simplicité opérationnelle, la précision de récupération arrivant loin derrière, un problème qui ne se révèle qu'une fois le système déjà en production. Il existe une solution connue: une couche de contexte gouvernée, que chaque agent consulte au lieu d'improviser. Cette couche est censée constituer un modèle partagé de ce que signifient réellement les données de l'entreprise, construit une fois pour toutes plutôt que redérivé par chaque agent. Mais 75% des entreprises n'en possèdent pas encore. Seules 25% des répondants en exploitent une en production, 34% sont en train d'en construire une, et 41% n'ont rien entamé. Fait notable, parmi les entreprises qui construisent ou exploitent déjà une couche de contexte gouvernée, 78% rapportent avoir déjà subi une réponse faussement assurée, contre seulement 20% chez celles qui n'ont aucun projet en ce sens. Autrement dit, ce sont surtout les entreprises déjà échaudées qui se mettent à construire le correctif, tandis que les autres ne perçoivent pas encore l'urgence. Tous les grands éditeurs de plateformes de données et d'IA développent désormais leur propre version de cette couche de contexte, sans converger vers une architecture commune. DataHub traite les métadonnées de catalogue et des années de comportement de requêtes analystes comme une base de connaissances vivante. Microsoft, avec Fabric IQ, construit une ontologie métier interrogeable par tout agent via le protocole MCP. Couchbase parie sur une mémoire d'agent proche de la base de données opérationnelle plutôt que sur une couche de recherche greffée après coup. Pinecone, avec Nexus, précompile la logique structurelle dans la couche de métadonnées avant l'exécution. Snowflake combine deux systèmes, Horizon Context pour les définitions gérées par le client et Cortex Sense pour le contexte inféré automatiquement. Oracle, avec Unified Memory Core, fusionne données vectorielles, graphes et relationnelles dans un seul moteur transactionnel afin d'éliminer toute couche de synchronisation susceptible de se périmer. Google et AWS misent tous deux sur des graphes de connaissances qui s'affinent à partir des journaux de requêtes et de l'usage réel des agents. Pour Michael Ni, vice-président et analyste principal chez Constellation Research, l'enjeu est clair: qui contrôle le contexte au moment de l'exécution contrôle la couche de décision de l'IA sur les données de l'entreprise, la mémoire vectorielle seule ne suffisant pas à garantir un sens métier fiable.

La mise en production de l'IA à grande échelle oblige les entreprises à repenser leur infrastructure

Le déploiement de l'intelligence artificielle à grande échelle est en train de redessiner l'architecture informatique des entreprises. C'est le constat que dressent Tarkan Maner, président et directeur commercial de Nutanix, et Thomas Cornely, vice-président exécutif en charge du produit, qui observent une bascule profonde dans la façon dont les organisations abordent l'IA. Après des mois de prototypes et d'expérimentations dans le cloud, les entreprises cherchent désormais à déployer ces systèmes sur des charges de travail réelles, pour des milliers d'utilisateurs simultanés. Cornely résume l'écart : "Faire un prototype, c'est une chose. Déployer ce prototype pour 10 000 employés, c'en est une autre." La montée en puissance des agents IA, capables d'enchaîner des tâches complexes en toute autonomie, amplifie encore cette pression : les infrastructures doivent gérer des workflows multi-étapes, des charges imprévisibles en temps réel, et coordonner l'accès aux données entre équipes. Ce passage du pilote à la production révèle des contraintes pratiques que l'expérimentation en cloud avait masquées. Les questions de gouvernance des données, de contrôle, de sécurité et de coût prennent rapidement le dessus dès que les volumes augmentent. Les cas d'usage qui progressent le plus vite sont la recherche documentaire et la récupération de connaissances, la détection prédictive des menaces en cybersécurité, les workflows de développement logiciel, et le support client. Dans le secteur bancaire, notamment en Europe et aux États-Unis, des établissements déploient déjà des outils de reconnaissance faciale et de détection prédictive des cyberattaques pilotés par l'IA. L'enjeu n'est pas de remplacer les décisions humaines, mais de trouver le bon équilibre entre l'automatisation et l'intervention humaine, ce que Maner résume par l'idée d'une "harmonie" entre agents IA, robotique et capital humain, optimisée pour de meilleurs résultats opérationnels. Cette transformation s'inscrit dans un contexte de mutation accélérée qui touche l'ensemble des secteurs, des industries réglementées comme la banque, la santé et les administrations publiques jusqu'à la distribution et la manufacture. Des frameworks comme OpenClaw facilitent désormais la création d'agents par des équipes qui n'ont pas de compétences en infrastructure IA, ce qui accroît la pression sur les plateformes chargées de sécuriser ces déploiements. La trajectoire dominante est claire : débuter dans le cloud pour accéder rapidement aux ressources, puis rapatrier les applications critiques sur site à mesure qu'elles entrent en production, sur des plateformes qui résolvent les problèmes de sécurité et de coût à la fois. Nutanix se positionne explicitement sur ce segment, voyant dans cette transition une opportunité de croissance majeure à mesure que les entreprises cherchent des partenaires capables d'accompagner l'IA de l'expérimentation au déploiement industriel.

Les puces IA moins coûteuses d'Amazon séduisent les entreprises

Les puces d'IA maison d'Amazon séduisent un nombre croissant d'entreprises grâce à un argument massue : le prix. Selon Karol Piatek, consultant en infrastructure IA au cabinet irlandais Co Driver Labs, l'utilisation des puces Inferentia2 et Trainium2 d'Amazon pour exécuter des modèles d'IA existants, ce qu'on appelle l'inférence, peut coûter jusqu'à 80 % moins cher que les H100 de Nvidia, à charge de travail comparable. Amazon multiplie depuis plusieurs mois les discussions avec des entreprises gérant leurs propres centres de données pour leur proposer ces alternatives : Trainium pour l'entraînement de nouveaux modèles, Inferentia pour le déploiement. L'écart de prix est suffisamment significatif pour peser dans les décisions d'infrastructure, surtout dans un contexte où les budgets IA explosent. Pour les entreprises qui n'ont pas besoin des performances brutes maximales de Nvidia mais cherchent à industrialiser leurs usages IA à moindre coût, les puces Amazon représentent un compromis crédible. L'argument de la disponibilité joue aussi : les H100 restent difficiles à obtenir en grande quantité. Cette dynamique s'inscrit dans une tendance de fond : les grands hyperscalers, Amazon, Google, Microsoft, investissent massivement dans leurs propres puces pour réduire leur dépendance à Nvidia, dont la domination sur le marché des accélérateurs IA est quasi totale. Amazon, qui vend déjà ces puces via AWS, tente désormais de convaincre les entreprises disposant de leurs propres infrastructures physiques, un segment jusqu'ici largement acquis à Nvidia. Si ces conversions se multiplient, la pression concurrentielle sur Jensen Huang et ses équipes pourrait s'intensifier.