NVIDIA publie le code de Run:ai sous licence Apache 2.0 pour l'orchestration de GPU sur Kubernetes
NVIDIA a publié en open source l'intégralité de sa plateforme Run:ai, désormais disponible sur GitHub sous licence Apache 2.0. Le dépôt unique regroupe le plan de contrôle, les services de cluster, l'installateur, la ligne de commande et un serveur MCP destiné aux assistants d'IA. Run:ai orchestre les charges de travail de développement, d'entraînement et d'inférence sur des clusters Kubernetes ou OpenShift équipés de GPU NVIDIA. Le code est découpé en quatre briques adoptables séparément : KAI Scheduler, moteur d'ordonnancement déjà open source et projet CNCF Sandbox (ordonnancement par groupe, partage équitable dans le temps, prise en compte de la topologie, DRA) ; un opérateur de fractionnement de GPU reposant sur CUDA 13.4, où le pilote impose une limite mémoire stricte par charge ; KAI Resource Management, qui gère projets, départements, quotas et pools de nœuds ; et Workload Map, une bibliothèque Go décrivant des types de charges comme PyTorchJob, RayCluster ou les services KServe. Le développement local passe par un script, local-dev.sh, qui compile une cinquantaine de services Go et crée un cluster Kind de cinq nœuds avec huit GPU Tesla-A10 simulés, sans matériel dédié. Il faut 16 Go de RAM et 100 Go de disque sous Linux, et Windows n'est pas pris en charge.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Pour les équipes plateforme, l'enjeu est de pouvoir inspecter, forker et auto-héberger une pile d'ordonnancement GPU de niveau production sans abonnement payant. L'édition communautaire, déployable depuis les sources ou via un chart Helm NGC, n'inclut toutefois aucun support entreprise de NVIDIA. Les offres commerciales restent proposées via NVIDIA AI Enterprise, Mission Control et certaines places de marché cloud. Huit partenaires de l'écosystème DSX la proposent aussi : Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud et vCluster. NVIDIA n'a publié aucun test de performance au niveau de la plateforme. Le projet voisin Model Streamer, qui charge les poids directement en mémoire GPU, a en revanche été mesuré par Microsoft sur huit machines virtuelles H100 sous Azure : un chargement de 3 à 6 fois plus rapide que le chargeur par défaut, avec un débit de 80 Gbit/s contre environ 40. Le mode GPU réel exige Linux, Docker et le NVIDIA Container Toolkit, et les accélérateurs AMD et Intel ne sont pas pris en charge.
Cette ouverture intervient alors que l'orchestration des GPU est devenue un point de friction pour les entreprises, qui doivent partager des grappes coûteuses entre équipes de recherche, d'entraînement et d'inférence. Run:ai, startup israélienne spécialisée dans ce domaine, avait été rachetée par NVIDIA, qui en avait déjà ouvert le cœur d'ordonnancement avec KAI Scheduler. Le projet rejoint désormais la plateforme NVIDIA DSX AI Factory, qui vise à standardiser la construction d'usines d'IA. En ouvrant le code, NVIDIA mise sur l'adoption par la communauté Kubernetes et sur ses partenaires cloud, tout en conservant la couche de support payant. Reste à voir si les alternatives open source existantes et les éditeurs concurrents d'orchestration accepteront de s'appuyer sur une pile pilotée par le fabricant de GPU, et si la limitation aux seuls accélérateurs NVIDIA freinera son adoption.
Les équipes plateforme européennes peuvent auto-héberger gratuitement une pile d'ordonnancement GPU sous Apache 2.0, et des acteurs comme Nebius, OpenNebula Systems et Mirantis figurent parmi les partenaires proposant l'offre.