Lambda améliore la résilience et l'efficacité de ses usines d'IA grâce à la photonique de NVIDIA
Le fournisseur de cloud Lambda déploie les commutateurs NVIDIA Photonics à optique co-intégrée (CPO) pour relier des racks NVIDIA GB300 NVL72 regroupant plus de 10 000 GPU. Chaque commutateur propose 144 ports à 800 Gb/s et est refroidi par liquide, qui évacue la chaleur de la puce et des moteurs optiques. Lors des tests menés par l'entreprise, la latence réseau a reculé d'environ 4 % à l'échelle du rack et jusqu'à environ 10 % à l'échelle du pod, tandis que le débit reste identique à celui des optiques enfichables classiques, que ce soit pour un rack, une unité évolutive ou un pod. Lambda indique aussi une température médiane des optiques de 36 °C, contre 51 °C pour des optiques enfichables, avec une intégrité du signal plus stable. NVIDIA annonce jusqu'à 5 fois plus d'efficacité énergétique et jusqu'à 15 fois plus de fiabilité, avec quatre fois moins de lasers.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de NVIDIA AI Blog. Lire l'article original →
L'enjeu est considérable pour les « usines d'IA », où le réseau conditionne directement la productivité. Lors d'un entraînement de grande taille, un seul lien interrompu peut paralyser des milliers de GPU, et dans l'inférence agentique, une perturbation réseau peut provoquer des effets de latence en cascade sur de nombreux agents. Chaque interruption coûte du temps, et chaque watt consommé par le réseau n'est pas disponible pour le calcul. En allongeant le temps moyen entre interruptions et en réduisant la consommation, cette technologie améliore donc la disponibilité et le rendement de l'infrastructure. Le gain de fiabilité tient aussi à la maintenance : chaque commutateur compte 18 sources lumineuses externes amovibles, que les techniciens peuvent remplacer sur site. Avec des modules enfichables traditionnels, la panne d'un laser oblige à changer le module entier.
Sur le plan technique, l'optique co-intégrée place les moteurs optiques sur le même boîtier que la puce du commutateur, là où les transceivers enfichables en sont éloignés. Ces moteurs convertissent les signaux électriques en lumière, qui transporte les données par fibre entre les différentes parties du cluster. Le trajet électrique passe ainsi de quelques centimètres à quelques millimètres, ce qui réduit les pertes de signal et supprime le besoin de puces de retimage, donc de la consommation et du nombre de composants sur le chemin du signal. Cette évolution répond à la croissance des clusters d'IA, qui exigent des réseaux toujours plus rapides, sobres et robustes. « Le réseau doit suivre les exigences de clusters d'IA de plus en plus grands », a déclaré Dave Ward, président des services cloud chez Lambda, qui voit dans l'intégration de l'optique co-intégrée à cette échelle une étape importante vers l'infrastructure de la prochaine génération d'IA. L'annonce a été faite à l'occasion de SC26.