La mise en production de l'IA à grande échelle oblige les entreprises à repenser leur infrastructure

NVIDIA et AWS s'associent pour déployer l'IA en production à grande échelle

NVIDIA et Amazon Web Services (AWS) ont annoncé un approfondissement de leur collaboration pour faciliter le déploiement de l'intelligence artificielle à grande échelle en production. Les nouvelles instances Amazon EC2 G7, équipées des GPU NVIDIA RTX PRO 4500 Blackwell Server Edition, offrent jusqu'à 4,6 fois les performances d'inférence IA et 2,1 fois les performances graphiques par rapport aux instances G6 précédentes. Ces instances supportent jusqu'à huit GPU, 256 Go de mémoire GPU totale, 700 Gbps de réseau EFA et jusqu'à 7,6 To de stockage NVMe local, dans des configurations allant d'un à huit GPU. Parallèlement, la bibliothèque NVIDIA cuVS devient le moteur par défaut de l'indexation vectorielle dans Amazon OpenSearch Serverless, avec des performances jusqu'à dix fois supérieures à un coût quatre fois inférieur aux solutions CPU seules. AWS a par ailleurs obtenu le statut NVIDIA Exemplar Cloud sur les GPU GB300, certification attestant que la plateforme répond aux seuils de performance de référence de NVIDIA pour les charges d'entraînement. Ces avancées changent concrètement la donne pour les équipes qui construisent des systèmes d'IA en production. L'intégration de cuVS comme choix par défaut dans OpenSearch Serverless transforme la recherche vectorielle accélérée par GPU d'un projet d'optimisation spécialisé en une capacité AWS standard. Cela signifie que des bases de données vectorielles à l'échelle du milliard d'entrées deviennent réalisables en moins d'une heure, ce qui rend les applications de type RAG (retrieval-augmented generation), recherche sémantique ou IA agentique accessibles à un bien plus grand nombre d'entreprises. Pour les équipes médias et data, les instances G7 permettent également de traiter des workflows vidéo haute résolution, du rendu 3D et des pipelines analytiques sur le même type d'instance, réduisant la complexité opérationnelle. Cette collaboration s'inscrit dans une course entre les grands fournisseurs cloud à offrir la meilleure infrastructure IA clé en main. NVIDIA cherche à s'imposer comme couche matérielle incontournable, aussi bien pour l'entraînement que pour l'inférence et la recherche vectorielle, tandis qu'AWS veut simplifier le passage de l'expérimentation à la production. Le statut Exemplar Cloud sur les GB300, fruit d'un co-engineering approfondi entre les deux entreprises, positionne AWS comme plateforme de référence pour les charges d'entraînement les plus exigeantes. Les instances G7 seront prochainement disponibles sur Amazon SageMaker AI, ce qui étendra encore leur portée. L'enjeu sous-jacent est de réduire la friction entre infrastructure et application pour les entreprises qui n'ont pas les ressources pour gérer leurs propres clusters GPU.

NVIDIA ouvre son informatique IA à grande échelle et invite ses partenaires à soutenir le développement de l'infrastructure IA

NVIDIA a dévoilé un nouveau modèle économique destiné à ouvrir l'accès à ses infrastructures de calcul aux startups d'IA, créateurs de modèles, entreprises et organismes de recherche qui manquaient jusqu'ici de capital pour financer des équipements aussi coûteux. Ce dispositif repose sur un partage de revenus avec des "AI clouds" partenaires : ces fournisseurs de cloud vendront des services alimentés par la technologie NVIDIA, l'entreprise percevant à la fois le revenu classique lié à la vente de matériel et une part des revenus générés par la capacité mise à disposition. Deux entreprises figurent parmi les premières à s'engager dans ce cadre. Sharon AI va déployer jusqu'à 40 000 GPU NVIDIA Grace Blackwell GB300, dans ce que son cofondateur et PDG James Manning décrit comme une étape clé de la mission de l'entreprise pour offrir une infrastructure de calcul IA souveraine et à grande échelle. Firmus, de son côté, construit un site "DSX AI factory" à Batam, en Indonésie, dont la puissance devrait atteindre 360 mégawatts pour jusqu'à 170 000 GPU NVIDIA. Selon Tim Rosenfield, co-PDG de Firmus Technologies, les entreprises spécialisées en IA ont besoin d'un accès à une infrastructure de calcul évolutive, économe en énergie et en coûts, pour rester compétitives à l'échelle mondiale. Cette initiative répond à un changement structurel de la demande en calcul : l'IA passe désormais du stade de l'entraînement de modèles à celui de la production à grande échelle, avec des "usines à IA" qui doivent tourner en continu pour générer des tokens en volume. Or les jeunes pousses du secteur peinaient à obtenir des financements pour ce type d'infrastructure, même lorsqu'elles disposaient d'engagements clients à long terme, faute de garanties suffisantes pour les prêteurs. En alignant ses intérêts économiques sur ceux des clouds partenaires, NVIDIA espère accélérer l'adoption de ses plateformes par le segment le plus dynamique du marché, tout en s'assurant un flux de revenus récurrent indexé sur l'usage réel. Pour les créateurs de modèles, fournisseurs d'inférence et plateformes d'agents, cela signifie un accès plus rapide à du calcul accéléré de bout en bout, sans avoir à attendre les longues étapes de sélection de site, d'approvisionnement énergétique, de construction et de mise en service du matériel. Des acteurs déjà bien installés dans l'écosystème, comme Baseten, Fireworks AI et Together AI, illustrent où se dirige la demande : ils ont besoin d'un accès immédiat à de la capacité cloud pour l'entraînement, le post-entraînement, l'ajustement fin et l'inférence agentique à fort volume, au service de développeurs et d'entreprises qui déploient l'IA en production. Leurs clients recherchent un accès fiable à du calcul NVIDIA à mesure que leur usage grandit, tout en gardant une flexibilité commerciale pour passer du stade pilote à la production. Ce nouveau modèle s'inscrit dans la stratégie plus large de NVIDIA de structurer un réseau mondial de partenaires cloud et d'usines à IA, conçu pour soutenir la montée en puissance rapide de l'intelligence artificielle générative et agentique dans les prochaines années.

💬 NVIDIA ne vend plus juste des puces, il devient actionnaire de la demande : en prenant une part des revenus de ses clouds partenaires, il aligne son intérêt sur le taux d'usage réel des GPU, pas sur le seul volume de vente. Bon, sur le papier ça débloque enfin les startups qui avaient les clients mais pas les garanties bancaires pour financer une usine à IA. Reste que ça renforce encore la dépendance de tout l'écosystème inférence à un seul fournisseur, et ça, ça devrait inquiéter plus de monde que ça n'en a l'air.

5 % d'utilisation GPU : le problème d'infrastructure IA à 401 milliards de dollars que les entreprises ne peuvent plus ignorer

Les entreprises ont dépensé des milliards pour sécuriser des GPU à tout prix, et la facture est désormais présentée. Selon Gartner, l'infrastructure IA représente 401 milliards de dollars de nouvelles dépenses en 2025, mais des audits terrain révèlent une réalité bien plus sombre : le taux d'utilisation moyen des GPU en entreprise stagne à 5 %. Pendant deux ans, la panique du « GPU scramble » a poussé DSI et directions financières à constituer des réserves de capacité sous des cycles d'amortissement de trois à cinq ans. Ces actifs sont désormais des coûts fixes inscrits aux bilans, indépendamment de leur usage effectif. Les chiffres du Q1 2026 confirment le basculement : dans le baromètre de VentureBeat, le critère « accès aux GPU » est passé de 20,8 % à 15,4 % en un seul trimestre comme moteur principal des décisions d'achat, tandis que le coût par inférence et le TCO (coût total de possession) bondissaient de 34 % à 41 %, dépassant la performance pure comme critère dominant. À 5 % d'utilisation, l'arithmétique est brutale : pour chaque dollar investi en silicium, 95 centimes partent directement dans la marge des fournisseurs cloud. Dans n'importe quel autre département, un taux de gaspillage de 95 % serait un motif de licenciement ; dans l'infrastructure IA, on appelait ça de la « préparation ». Les grands groupes comme Intuit, Mastercard ou Pfizer, qui bénéficiaient de relations privilégiées avec AWS, Azure et GCP pour sécuriser des réservations de capacité, se sont retrouvés riches en GPU mais pauvres en production : des équipes internes paralysées par la gouvernance des données, la gravité des données et une immaturité architecturale persistante ont empêché toute valorisation réelle de ces ressources. Le discours dominant sur la rareté du silicium a servi d'écran commode pour masquer cette inefficacité structurelle. Ce virage marque la fin de l'ère du chèque en blanc. Le passage à une tarification à l'usage en 2026 transforme les architectures héritées des phases pilotes, pensées avec des tokens en coûts fixes, en véritables passifs financiers. Les agents en contexte long et les pipelines de récupération complexes, construits quand les tokens étaient un coût noyé dans des licences forfaitaires, deviennent intenables sous une facturation mesuréé. L'inférence n'est plus un projet tactique : c'est un modèle économique stratégique dont les unités économiques sont, pour la plupart des entreprises, encore insoutenables. La question n'est plus de savoir si les investissements passés étaient justifiés, mais comment extraire un retour mesurable d'une infrastructure déjà déployée avant que les cycles d'amortissement ne l'emportent.

💬 5 % d'utilisation, c'est le genre de stat qui ferait renvoyer n'importe quel responsable infra dans un département classique. La panique du GPU scramble a servi de couverture : on achetait du silicium pour ne pas rater le train, sans se demander si les équipes data étaient capables d'en faire quelque chose. Le basculement vers le pay-as-you-go va transformer ces réserves en passifs, et ça va faire des dégâts.

La construction de l'environnement d'entreprise pour l'IA à base d'agents

Intel a mené plusieurs milliers d'expériences sur des charges de travail d'IA agentique afin d'identifier ce dont une entreprise a réellement besoin pour faire fonctionner des agents logiciels à grande échelle. Pour cela, le groupe a étendu Terminal-Bench, un outil open source de benchmark pour agents IA, en y ajoutant des capacités de profilage, de télémétrie et de rejeu. La méthode retenue repose sur un enregistrement déterministe des réponses des modèles de langage, rejouées ensuite à l'identique à chaque test : cela permet de mesurer la performance des agents indépendamment de la variabilité propre au LLM. Le panel de tâches utilisé était volontairement large : compilation, tests logiciels, opérations de bases de données, logique booléenne, interprétation, ray tracing, compression de données, algèbre linéaire, transcodage vidéo et entraînement de modèles de machine learning. Cette diversité visait à rapprocher les résultats des conditions réelles rencontrées en entreprise. De ces travaux, Intel tire cinq enseignements pratiques, dont l'idée centrale que l'IA agentique constitue un problème de système complet et non un simple enjeu d'inférence. Cette distinction a des conséquences concrètes pour les équipes qui déploient des agents en production. Plutôt que de se limiter aux métriques classiques d'évaluation des modèles, Intel recommande de suivre six indicateurs : le taux de réussite des tâches, le coût par tâche, le temps par tâche, le débit de traitement, la densité d'agents par vCPU et la latence. Le point le plus contre-intuitif concerne le dimensionnement des infrastructures : la bonne unité de mesure n'est pas le nombre brut d'agents déployés, mais la densité d'agents par processeur virtuel disponible. Ainsi, dix agents tournant sur un système à 8 vCPU et vingt agents sur un système à 16 vCPU se comportent de façon comparable, dès lors que la densité reste identique. Cela donne aux architectes un moyen fiable de comparer des capacités entre différentes tailles d'instances et générations de processeurs, et de calibrer leurs infrastructures selon les objectifs métier : les assistants interactifs orientés utilisateur exigent une densité plus faible pour préserver le temps de réponse, tandis que les traitements par lots, comme les flux de travail IT internes, peuvent tourner à densité plus élevée. Ces travaux s'inscrivent dans un contexte où l'IA agentique dépasse largement le cadre du chatbot conversationnel pour devenir un outil d'automatisation de bout en bout des processus métier, capable de planifier des tâches multi-étapes, d'appeler des outils, de lire des résultats et de relancer une action en cas d'échec. Intel préconise notamment de surveiller la latence réelle des tâches plutôt que la seule utilisation moyenne du CPU, et de privilégier une architecture en scale-out plutôt qu'en scale-up, cette dernière n'étant réservée qu'aux charges nécessitant davantage de calcul par agent ou soumises à des contraintes architecturales spécifiques. Ces recommandations visent à outiller les équipes techniques face à la montée en charge attendue des déploiements agentiques dans les prochains mois.

💬 Ce qui me marque le plus dans ce papier, c'est le changement d'unité de mesure. Intel affirme que compter les agents déployés ne veut rien dire : seule la densité d'agents par vCPU permet de comparer deux infras entre elles, dix agents sur 8 vCPU se comportant comme vingt sur 16. Reste qu'Intel a du silicium à vendre derrière cette grille de lecture, donc je la garde en tête sans la prendre pour argent comptant.