Aller au contenu principal
InfrastructureNVIDIA AI Blog · 2 min de lecture

NVIDIA Spectrum-6, concu pour Vera Rubin, arrive dans les usines a IA a l'echelle gigascale

Source originale ↗·

NVIDIA a annoncé le déploiement de Spectrum-6, un système de commutation Ethernet capable d'atteindre 102,4 térabits par seconde, soit le double de la capacité de la génération précédente. Conçu comme un élément central de la plateforme NVIDIA Vera Rubin, ce système s'installe désormais dans les plus grandes usines d'IA du monde, celles qui rassemblent des centaines de milliers de GPU et de CPU pour entraîner des modèles de pointe et faire fonctionner des applications d'IA agentique. Spectrum-6 s'appuie sur une puce de commutation associée à la carte réseau ConnectX-9 SuperNIC, et s'intègre à l'architecture Vera Rubin aux côtés du CPU Vera, du GPU Rubin, du commutateur NVLink 6 et du DPU BlueField-4. Le système prend en charge à la fois l'optique enfichable et l'optique co-packagée, ainsi que le refroidissement liquide, ce qui permet une approche de refroidissement de bout en bout pour l'ensemble de l'infrastructure tout en améliorant l'efficacité énergétique du réseau. Parmi les premiers acteurs à adopter cette technologie figurent CoreWeave, Microsoft, Nebius, SpaceX/xAI et Tesla.

Cette évolution répond à un problème devenu central dans l'IA à grande échelle : la performance brute des GPU ne suffit plus à prédire la performance globale d'une usine d'IA. Les charges de travail d'entraînement et d'inférence à grande échelle dépendent de milliers d'accélérateurs qui échangent des données en permanence, via des opérations de communication collective qui synchronisent le travail entre GPU. Or l'Ethernet classique a été conçu pour du trafic nord-sud entre utilisateurs, serveurs et stockage, pas pour ces schémas de communication massivement parallèles. En transformant l'Ethernet en une infrastructure réseau taillée pour l'IA, Spectrum-X promet de maintenir chaque GPU alimenté en données en continu. Pour les fournisseurs cloud, cela signifie pouvoir faire fonctionner davantage de capacité de calcul comme une ressource unifiée et performante, accélérant l'entraînement des modèles et le déploiement des services d'inférence pour leurs clients. Pour les acteurs qui construisent leur propre infrastructure, cela se traduit par plus de GPU synchronisés, une meilleure utilisation lors des opérations collectives intensives et davantage de résilience pour les tâches de longue durée.

Selon Min Jun, directeur produit réseau chez CoreWeave, l'intégration de Spectrum-6 et de l'infrastructure Spectrum-X Ethernet à refroidissement liquide doit apporter la bande passante, la résilience et l'efficacité nécessaires pour entraîner des modèles de pointe plus rapidement. Laurelle Roseman, vice-présidente des partenariats mondiaux chez Nebius, souligne qu'à cette échelle, la performance dépend avant tout de la coordination entre GPU, un seul lien lent pouvant bloquer l'ensemble d'une tâche. CoreWeave, Microsoft et Nebius comptent parmi les premiers fournisseurs à déployer une infrastructure basée sur Vera Rubin avec Spectrum-6, ouvrant l'accès à cette plateforme à une large communauté de développeurs, de startups et d'entreprises.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

NVIDIA Spectrum-X, le réseau Ethernet ouvert conçu pour l'IA, s'impose comme référence à grande échelle, avec MRC
1NVIDIA AI Blog 

NVIDIA Spectrum-X, le réseau Ethernet ouvert conçu pour l'IA, s'impose comme référence à grande échelle, avec MRC

NVIDIA a annoncé que son infrastructure réseau Spectrum-X Ethernet intègre désormais le protocole MRC (Multipath Reliable Connection), une innovation développée conjointement avec OpenAI et Microsoft, et désormais publiée en spécification ouverte via l'Open Compute Project. MRC est un protocole de transport RDMA qui permet à une seule connexion réseau de distribuer le trafic sur plusieurs chemins simultanément, améliorant le débit, l'équilibrage de charge et la disponibilité des infrastructures d'entraînement IA à grande échelle. Parmi les premiers déploiements en production figurent le datacenter Fairwater de Microsoft et le datacenter Abilene d'Oracle Cloud Infrastructure, deux des plus grandes usines IA au monde dédiées à l'entraînement de modèles de pointe. OpenAI a notamment intégré MRC dans sa génération Blackwell : Sachin Katti, responsable du calcul industriel chez OpenAI, a confirmé que le protocole a permis d'éviter la majorité des ralentissements réseau habituels lors des runs d'entraînement frontier à grande échelle. L'enjeu est directement économique et computationnel : dans un cluster d'entraînement réunissant des milliers de GPU, la moindre interruption réseau peut bloquer l'intégralité d'un job d'entraînement, laissant des GPU à l'arrêt et brûlant des millions de dollars en temps de calcul inutilisé. MRC répond à ce problème en détectant les pannes réseau en quelques microsecondes et en reroutant automatiquement le trafic dans le matériel lui-même, sans intervention logicielle. Le protocole maintient également une bande passante élevée sous congestion en évitant dynamiquement les chemins surchargés en temps réel, et minimise l'impact des pertes de paquets grâce à une retransmission intelligente et ciblée. Les administrateurs gagnent par ailleurs une visibilité granulaire sur les chemins de trafic, ce qui simplifie considérablement les opérations à très grande échelle. Cette annonce s'inscrit dans une course mondiale à la construction d'infrastructures réseau capables de suivre l'explosion des besoins en calcul IA. Jusqu'ici, InfiniBand de Mellanox, aussi propriété de NVIDIA, dominait les clusters HPC et IA haute performance, tandis qu'Ethernet était perçu comme moins adapté aux charges de travail intensives. Spectrum-X représente la tentative de NVIDIA de rendre Ethernet compétitif sur ce terrain en y ajoutant une couche matérielle et protocolaire dédiée à l'IA. La publication de MRC comme spécification ouverte via l'Open Compute Project est un signal stratégique fort : en permettant à d'autres acteurs d'implémenter le protocole, NVIDIA cherche à imposer Spectrum-X comme standard de facto du réseau Ethernet pour l'IA, face aux alternatives comme Ultra Ethernet Consortium poussé par AMD, Intel et d'autres. La prochaine étape sera de voir si d'autres fournisseurs cloud et constructeurs de clusters adoptent MRC à leur tour.

UELa publication de MRC comme spécification ouverte via l'Open Compute Project pourrait à terme bénéficier aux centres de données européens qui développent des infrastructures d'entraînement IA, mais aucune entreprise ou institution européenne n'est directement impliquée dans cette annonce.

InfrastructureOpinion
1 source
2NVIDIA AI Blog 

NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde

Voici l'article traduit et résumé. NVIDIA a annoncé la montée en production de sa plateforme Vera Rubin NVL72, déployée chez des partenaires majeurs comme CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure. La chaîne d'approvisionnement s'appuie sur plus de 350 sites industriels répartis dans 30 pays, ce que NVIDIA présente comme la chaîne logistique rack-scale la plus vaste et la plus mature jamais assemblée. Selon un premier benchmark de CoreWeave sur le modèle DeepSeek-R1, la plateforme atteint un débit dix fois supérieur par mégawatt comparé à la génération précédente Grace Blackwell NVL72. Le système repose sur une co-conception poussée de sept puces et cinq plateaux de rack, dont le nouveau CPU Vera doté d'un cœur Olympus offrant deux fois les performances mono-thread, trois fois la bande passante inter-cœurs et une latence mémoire réduite de 40% par rapport aux puces chiplet concurrentes. Côté réseau, l'interconnexion NVLink de sixième génération double le débit sur les charges complexes tout en réduisant la latence par trois, et le réseau Spectrum-X Ethernet, combiné aux commutateurs Spectrum-6 et aux SuperNIC ConnectX-9, apporte 60% de bande passante RDMA supplémentaire face aux solutions Ethernet standards. Cette avancée compte avant tout parce qu'elle s'attaque directement au principal goulot d'étranglement des centres de données d'intelligence artificielle actuels: la consommation électrique. En multipliant par dix le débit par mégawatt, NVIDIA permet aux opérateurs de data centers de traiter davantage de requêtes sans construire de nouvelles centrales ou étendre leurs capacités énergétiques, un enjeu critique alors que la demande en calcul explose. L'architecture sans câbles, ventilateurs ni tuyaux dans les plateaux de calcul réduit le temps d'assemblage de plusieurs heures à une seule minute, tandis que le refroidissement liquide fonctionnant à 45°C en entrée permet un fonctionnement sans réfrigérateur, économisant des millions de litres d'eau par mégawatt chaque année. Des géants comme SpaceX et Tesla figurent parmi les premiers à adopter les commutateurs Spectrum-6, signe que cette technologie dépasse le seul cadre du cloud pour toucher l'IA embarquée et les infrastructures propriétaires. Le contexte européen illustre l'ampleur stratégique de ce déploiement: mardi 21 juillet, NVIDIA a dévoilé un partenariat élargi entre Microsoft et Mistral AI, doté d'un accord pluriannuel évalué en milliards de dollars pour développer les infrastructures IA en Europe. Mistral ajoutera des milliers de GPU Vera Rubin à sa capacité de calcul, créant une plateforme partagée pour l'entraînement et le déploiement de modèles ouverts, tout en donnant aux gouvernements et industries régulées un contrôle accru sur leurs environnements. Cette initiative s'inscrit dans une compétition mondiale où les fabricants de puces cherchent à équiper les hyperscalers tout en répondant aux exigences de souveraineté numérique, un sujet particulièrement sensible en Europe. Avec NVLink Fusion ouvrant également son écosystème aux puces tierces, NVIDIA cherche à consolider sa position d'infrastructure de référence face à une concurrence croissante dans la course aux capacités de calcul IA.

UEMistral AI, entreprise française, va integrer des milliers de GPU Vera Rubin grace a un accord pluriannuel avec Microsoft, renforçant les capacites de calcul IA en Europe et la souverainete numerique des secteurs regules.

InfrastructureActu
1 source
Bristol Myers Squibb construit l'usine d'IA la plus avancée du secteur des sciences de la vie sur NVIDIA Vera Rubin
3NVIDIA AI Blog 

Bristol Myers Squibb construit l'usine d'IA la plus avancée du secteur des sciences de la vie sur NVIDIA Vera Rubin

Erin Davis appelle ça la "SuperDuperPOD". Bristol Myers Squibb (BMS), qui exploite déjà l'un des plus grands clusters d'IA du secteur pharmaceutique, a annoncé le déploiement de son second NVIDIA DGX SuperPOD, cette fois construit autour de huit systèmes DGX Vera Rubin NVL72. Combinant processeurs NVIDIA Vera et GPU Rubin, cette infrastructure est présentée comme le cluster d'IA le plus puissant et le plus économe en énergie du secteur des sciences de la vie, avec des performances jusqu'à 10 fois supérieures par mégawatt par rapport à l'infrastructure qu'elle remplace. Erin Davis, vice-présidente en charge de la recherche business et de la technologie chez BMS, explique que l'accès ne sera plus réservé à un petit groupe de chercheurs mais ouvert à l'ensemble des scientifiques de l'entreprise. La plateforme unifiée intégrera notamment le NVIDIA BioNeMo Agent Toolkit pour l'IA biologique, permettant prédictions, entraînement de modèles et flux de travail agentiques sur l'ensemble du pipeline de découverte de médicaments. Cette montée en puissance vise à transformer concrètement la recherche pharmaceutique. Selon Payal Sheth, nommée en janvier vice-présidente senior des sciences de découverte thérapeutique chez BMS après une carrière entière en laboratoire, l'objectif est de passer d'un discours abstrait sur les capacités de l'IA à un impact mesurable. BMS exploite déjà un DGX SuperPOD depuis environ trois ans, avec des résultats concrets : l'identification de cibles thérapeutiques assistée par IA fait gagner des semaines de travail manuel aux chercheurs, qui peuvent se concentrer sur les décisions scientifiques à plus forte valeur ajoutée. L'entreprise a notamment utilisé l'IA pour étoffer sa bibliothèque de composés CELMoD, des molécules conçues pour dégrader sélectivement les protéines responsables de cancers, avec des applications contre les cancers du sang et au-delà, ouvrant la voie à de nouvelles cibles thérapeutiques. Sheth évoque aussi une méthodologie baptisée "Predict First", qui utilise des prédictions computationnelles pour prioriser la synthèse des molécules les plus prometteuses et écarter en amont celles qui ne répondraient pas aux critères recherchés, économisant ainsi des expériences de laboratoire coûteuses. Cette dépendance croissante à l'IA a fait exploser les besoins en calcul de l'organisation de recherche. "Nous sommes saturés", résume Davis, évoquant des prédictions à grande échelle sur de grosses molécules et l'entraînement de modèles fondationnels maison, très gourmands en GPU. D'où l'arrivée de ce nouveau système, présenté en interne comme la promesse d'un "calcul sans limites" pour les chercheurs. Davis, chimiste computationnelle de formation, a passé une quinzaine d'années côté éditeurs technologiques, chez ChemAxon, Schrödinger puis X-Chem, avant de rejoindre BMS convaincue que le vrai goulot d'étranglement de l'industrie pharmaceutique n'était pas la technologie elle-même, mais sa mise à disposition effective des scientifiques et la capacité à en tirer des enseignements. Cette conviction, dit-elle, est aussi nourrie par une expérience personnelle : son père est mort il y a cinq ans d'une maladie que la recherche pharmaceutique n'est pas encore parvenue à vaincre.

InfrastructureActu
1 source
72 GPU dans un seul rack : Dell livre le premier Vera Rubin NVL72 à CoreWeave
4Le Big Data 

72 GPU dans un seul rack : Dell livre le premier Vera Rubin NVL72 à CoreWeave

Dell a livré à CoreWeave le premier système NVIDIA Vera Rubin NVL72 opérationnel, un rack unique intégrant 72 GPU Rubin et 36 processeurs Vera personnalisés. Cette machine atteint une puissance de calcul de 3,6 exaFLOPS, soit une capacité suffisante pour entraîner et faire tourner des modèles d'intelligence artificielle comptant des milliers de milliards de paramètres. Le système adopte un refroidissement liquide intégral, désormais indispensable pour absorber la chaleur et la consommation énergétique générées par une telle densité de composants. CoreWeave, spécialiste américain du cloud GPU qui alimente déjà de nombreux acteurs de l'IA générative, devient ainsi l'un des premiers opérateurs au monde à déployer cette génération d'infrastructure dans un environnement de production réel. Ce déploiement illustre une tendance de fond qui redessine l'économie du calcul pour l'IA : la densification. Regrouper 72 GPU dans un seul rack ne relève pas de l'exploit pour la galerie, mais répond à une contrainte très concrète. Plus les modèles grossissent, plus les échanges de données entre composants deviennent un goulot d'étranglement. En rapprochant physiquement les GPU, on réduit les latences de communication et on améliore le débit global du système, ce qui se traduit directement par des temps d'inférence plus courts et une capacité d'entraînement plus élevée. Pour les opérateurs cloud qui facturent leurs clients à l'heure de GPU, cette efficacité accrue est un avantage compétitif direct. Pour les laboratoires qui entraînent les prochaines générations de modèles, c'est la condition nécessaire pour rester dans la course. Cette livraison s'inscrit dans un cycle d'escalade technologique qui s'accélère depuis le lancement de ChatGPT fin 2022. NVIDIA enchaîne les générations de puces à un rythme inédit : après les H100, les H200 et les Blackwell, la famille Vera Rubin représente la prochaine marche. Dell, longtemps perçu comme un constructeur de serveurs classiques, a clairement choisi de se repositionner comme intégrateur de référence pour les infrastructures d'IA à très grande échelle. CoreWeave, de son côté, a levé plusieurs milliards de dollars ces dernières années pour construire une alternative aux clouds hyperscalers comme AWS ou Google Cloud, spécifiquement taillée pour les charges de travail GPU intensives. La combinaison des deux acteurs sur ce premier déploiement Vera Rubin n'est pas anodine : elle signale que l'infrastructure d'IA de prochaine génération est prête à sortir des laboratoires pour entrer dans les centres de données commerciaux. À ce rythme, les 72 GPU d'aujourd'hui pourraient paraître modestes dès 2027.

UELa disponibilité commerciale de cette infrastructure GPU de prochaine génération conditionnera indirectement la compétitivité des acteurs européens de l'IA dans la course à l'entraînement de très grands modèles.

InfrastructureOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic