Sommet sur l'infrastructure IA : NVIDIA présente les avancées de Vera Rubin et DSX pour optimiser les tokens par watt
NVIDIA a présenté mardi 15 septembre, lors de l'AI Infra Summit au Santa Clara Convention Center, une série d'avancées destinées à améliorer l'efficacité énergétique des "AI factories". Ian Buck, vice-président hyperscale et calcul haute performance chez NVIDIA, s'est exprimé devant plus de 8 000 participants, contre 3 500 l'an dernier, signe de la croissance rapide de cet événement consacré aux infrastructures d'IA. Plusieurs partenariats ont été dévoilés : Annapurna Labs, filiale d'Amazon, travaille avec NVIDIA sur une mémoire à haute bande passante personnalisée baptisée NVHBM, tandis que d-Matrix intègre la technologie NVLink Fusion pour combiner les CPU Vera de NVIDIA avec ses propres puces d'inférence Raptor XPU, afin d'obtenir une inférence à très faible latence à grande échelle. Sur le terrain de l'efficacité, Lambda a annoncé une amélioration de 23 % de ses performances par watt grâce à NVIDIA DSX MaxLPS sur des serveurs Blackwell, tandis que Pinterest utilise désormais la plateforme Blackwell et le logiciel d'inférence Dynamo pour ses fonctionnalités de découverte visuelle conversationnelle. Emerald AI, de son côté, a mené avec NVIDIA une démonstration de gestion dynamique de charge électrique en collaboration avec le fournisseur d'énergie Silicon Valley Power.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de NVIDIA AI Blog. Lire l'article original →
Ces annonces traduisent un changement de logique dans la conception des infrastructures d'IA : la métrique de référence n'est plus la puissance de calcul brute, mais le nombre de "tokens agentiques" générés par mégawatt consommé. Avec la montée en puissance de l'IA agentique, qui exige davantage de performance, d'échelle et d'efficacité énergétique simultanément, les datacenters doivent désormais être conçus de bout en bout, du silicium jusqu'au réseau électrique. NVIDIA affirme que sa technologie DSX MaxLPS, qui optimise dynamiquement la répartition de l'énergie entre GPU et racks, peut générer jusqu'à 1,4 fois plus de tokens par mégawatt. Pour les opérateurs de cloud et les grandes entreprises technologiques, cela signifie une meilleure rentabilité des investissements massifs consentis dans les puces et l'électricité, à un moment où la disponibilité de l'énergie devient un facteur limitant majeur pour le déploiement de l'IA à grande échelle.
Le contexte plus large est celui d'une tension croissante entre la demande énergétique des centres de données d'IA et les capacités des réseaux électriques locaux. Le programme de Silicon Valley Power a permis à Emerald AI de démontrer une réduction automatisée de charge en réponse à des centaines de signaux de demande, tout en préservant les performances des charges de travail prioritaires. Cette capacité repose sur le logiciel Conductor d'Emerald AI, combiné à la technologie DSX Flex de NVIDIA, qui ajuste la consommation en temps réel selon les signaux du réseau, les prix de l'électricité ou les sources d'énergie hybrides. NVIDIA construit ainsi une pile complète, des systèmes Vera Rubin au réseau BlueField et Spectrum-X, positionnant ses "AI factories" comme des ressources flexibles capables de dialoguer directement avec les opérateurs électriques.
Pas d'impact direct sur la France/UE