Dans Prometheus : comment Meta a construit un supercalculateur d'un gigawatt
Meta a achevé la première phase de Prometheus, son supercluster d'IA à l'échelle du gigawatt installé à New Albany, dans l'Ohio, et vise à terme environ un million de GPU fonctionnant en parallèle. Ce site, qui servait encore il y a deux ans à héberger du trafic web classique, a été reconverti grâce aux avancées en matériel, en réseau et en conception de bâtiments. Cette première phase a servi à entraîner la famille de modèles fondamentaux Muse, dont Muse Wonder, présenté comme le nouveau modèle de pointe de Meta pour les tâches agentiques personnelles et professionnelles. Prometheus compte aujourd'hui des centaines de milliers de GPU répartis dans plusieurs bâtiments interconnectés par des kilomètres de fibre : centres de données traditionnels, bâtiments optimisés pour l'IA et structures à déploiement rapide. L'ensemble fonctionne comme une seule machine. Sur Muse Wonder, Meta annonce un « goodput » supérieur à 85 % pour le pré-entraînement et à 90 % pour l'apprentissage par renforcement, avec un temps moyen entre interruptions d'environ 47 000 heures-GPU. Des correctifs de firmware déployés depuis ont porté ce chiffre au-delà de 54 000 heures-GPU. Le cluster utilise un refroidissement liquide en boucle fermée pour limiter sa consommation.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Meta Engineering ML. Lire l'article original →
La plateforme repose pour l'instant sur deux générations de GPU NVIDIA, une troisième, basée sur le Vera Rubin NVL72, devant arriver prochainement. La première, baptisée Catalina, s'appuie sur le GB200 NVL72 dans sa variante Ariel : deux racks de 36 GPU reliés par NVLink forment un domaine unifié de 72 GPU, au format Open Rack V3 à haute puissance, conçu par Meta et confié à l'Open Compute Project. Chaque GPU Blackwell y est associé à un CPU Grace (ratio 1:1) et à deux cartes réseau ConnectX-7 de 400G, soit 800G d'entrées-sorties par GPU, une configuration que Meta affirme avoir déployée avant le reste du secteur. Ce choix répondait au fait que le GB200 NVL72 augmentait presque toutes les dimensions par rapport au H100 (calcul, bande passante mémoire HBM, bande passante et taille du domaine de montée en charge verticale), alors que la bande passante horizontale par GPU serait restée à 400G.
Ces performances comptent parce qu'un seul serveur défaillant peut ralentir ou arrêter un entraînement entier : à cette échelle, la fiabilité détermine directement le coût et le calendrier des modèles. Un cluster aussi vaste permet aussi d'envisager des modèles plus grands et des fenêtres de contexte plus longues que ce qui était praticable jusqu'ici, avec l'ambition d'apporter de nouvelles expériences d'IA à des milliards d'utilisateurs. Prometheus s'inscrit dans la course aux infrastructures que se livrent les grands acteurs de l'IA, où la capacité de calcul est devenue un avantage stratégique. Le chantier se poursuit en pensant aux prochains modèles de pointe de Meta Superintelligence Labs, la division qui pilote désormais les efforts de Meta sur l'IA de frontière.
Pas d'impact direct sur la France/UE