Aller au contenu principal
Infrastructure · Actu ·

Lambda améliore la résilience et l'efficacité de ses usines d'IA grâce à la photonique de NVIDIA

Le fournisseur de cloud Lambda déploie les commutateurs NVIDIA Photonics à optique co-intégrée (CPO) pour relier des racks NVIDIA GB300 NVL72 regroupant plus de 10 000 GPU. Chaque commutateur propose 144 ports à 800 Gb/s et est refroidi par liquide, qui évacue la chaleur de la puce et des moteurs optiques. Lors des tests menés par l'entreprise, la latence réseau a reculé d'environ 4 % à l'échelle du rack et jusqu'à environ 10 % à l'échelle du pod, tandis que le débit reste identique à celui des optiques enfichables classiques, que ce soit pour un rack, une unité évolutive ou un pod. Lambda indique aussi une température médiane des optiques de 36 °C, contre 51 °C pour des optiques enfichables, avec une intégrité du signal plus stable. NVIDIA annonce jusqu'à 5 fois plus d'efficacité énergétique et jusqu'à 15 fois plus de fiabilité, avec quatre fois moins de lasers.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de NVIDIA AI Blog. Lire l'article original →

L'enjeu est considérable pour les « usines d'IA », où le réseau conditionne directement la productivité. Lors d'un entraînement de grande taille, un seul lien interrompu peut paralyser des milliers de GPU, et dans l'inférence agentique, une perturbation réseau peut provoquer des effets de latence en cascade sur de nombreux agents. Chaque interruption coûte du temps, et chaque watt consommé par le réseau n'est pas disponible pour le calcul. En allongeant le temps moyen entre interruptions et en réduisant la consommation, cette technologie améliore donc la disponibilité et le rendement de l'infrastructure. Le gain de fiabilité tient aussi à la maintenance : chaque commutateur compte 18 sources lumineuses externes amovibles, que les techniciens peuvent remplacer sur site. Avec des modules enfichables traditionnels, la panne d'un laser oblige à changer le module entier.

Sur le plan technique, l'optique co-intégrée place les moteurs optiques sur le même boîtier que la puce du commutateur, là où les transceivers enfichables en sont éloignés. Ces moteurs convertissent les signaux électriques en lumière, qui transporte les données par fibre entre les différentes parties du cluster. Le trajet électrique passe ainsi de quelques centimètres à quelques millimètres, ce qui réduit les pertes de signal et supprime le besoin de puces de retimage, donc de la consommation et du nombre de composants sur le chemin du signal. Cette évolution répond à la croissance des clusters d'IA, qui exigent des réseaux toujours plus rapides, sobres et robustes. « Le réseau doit suivre les exigences de clusters d'IA de plus en plus grands », a déclaré Dave Ward, président des services cloud chez Lambda, qui voit dans l'intégration de l'optique co-intégrée à cette échelle une étape importante vers l'infrastructure de la prochaine génération d'IA. L'annonce a été faite à l'occasion de SC26.

À lire ensuite

01Réduire de 75% les coûts d'inférence ASR sur Amazon EC2 grâce à NVIDIA MPSAWS ML BlogInfrastructure 02Jusqu'à 30x plus de puissance par watt : NVIDIA Vera Rubin NVL72 fixe une nouvelle norme d'efficacité pour les agents IANVIDIA AI BlogInfrastructure 03NVIDIA améliore les agents IA locaux sur ses PC RTX et DGX SparkNVIDIA AI BlogInfrastructure 
Dossier · NVIDIASuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.