NVIDIA étend NVLink Fusion avec la mémoire haute bande passante personnalisée NVHBM
NVIDIA a annoncé l'extension de sa technologie NVLink Fusion avec NVHBM, une nouvelle génération de mémoire à haute bande passante conçue sur mesure pour les puces XPU. Contrairement aux architectures HBM traditionnelles, qui placent le contrôleur mémoire directement sur la puce XPU en consommant une surface de silicium précieuse, NVHBM intègre ce contrôleur mémoire directement dans la puce de base de l'empilement HBM. Cette technologie repose sur la même base que celle que NVIDIA utilisera pour ses futurs GPU. Résultat concret : jusqu'à 30% de bande passante mémoire supplémentaire, une consommation électrique de la HBM réduite de 15%, et jusqu'à 25% d'espace en plus libéré sur la puce de calcul XPU, comparé à une HBM4E standard. NVIDIA établit une implémentation NVHBM standardisée, disponible auprès de plusieurs fournisseurs de mémoire. Annapurna Labs, la filiale semi-conducteurs d'Amazon, sera le premier partenaire à travailler sur cette technologie dans le cadre de sa collaboration élargie avec NVIDIA autour de NVLink Fusion.
Résumé et traduction réalisés par Le Fil IA à partir de NVIDIA AI Blog. Lire l'article original →
Cette avancée compte parce qu'elle s'attaque à un goulot d'étranglement central de l'infrastructure IA actuelle : à mesure que les agents IA et les modèles à plusieurs milliers de milliards de paramètres se généralisent, la performance ne dépend plus seulement de la puissance de calcul brute, mais de la façon dont calcul, mémoire, stockage, réseau et logiciel sont conçus ensemble comme un système unifié. En libérant de l'espace sur la puce XPU tout en augmentant la bande passante mémoire, NVHBM permet aux fabricants de puces personnalisées de consacrer davantage de silicium au calcul pur, un avantage direct pour les géants du cloud qui développent leurs propres accélérateurs IA. En standardisant l'implémentation auprès de plusieurs fournisseurs de mémoire, NVIDIA réduit aussi l'effort d'ingénierie nécessaire pour intégrer et qualifier la mémoire, ce qui accélère la mise sur le marché de puces IA sur mesure pour les clients de NVLink Fusion.
Cette annonce s'inscrit dans la stratégie plus large de NVIDIA visant à rester incontournable même face à la montée des puces IA personnalisées développées par les hyperscalers. Amazon, via Annapurna Labs, prévoit d'intégrer NVLink Fusion à ses futures puces Trainium à partir de Trainium4, permettant à ses propres accélérateurs de fonctionner aux côtés des GPU NVIDIA au sein d'une architecture de rack commune. Nafea Bshara, vice-président d'Annapurna Labs chez Amazon, a qualifié NVHBM de "nouvelle approche architecturale" pour améliorer la performance et l'efficacité de la mémoire à haute bande passante, ajoutant que cette collaboration bénéficiera aux futures conceptions d'infrastructure d'AWS. Plus largement, NVLink Fusion donne accès aux partenaires aux chiplets NVLink, à NVLink-C2C, aux commutateurs NVLink et aux systèmes et racks NVIDIA MGX, ainsi qu'à tout un écosystème de partenaires CPU, concepteurs d'ASIC et fabricants de systèmes, leur permettant de concentrer leurs efforts d'ingénierie sur l'innovation des puces XPU tout en s'appuyant sur une pile technologique éprouvée pour le déploiement d'infrastructures IA semi-personnalisées.
Pas d'impact direct sur la France/UE