NVIDIA publie en open source NVKE et NVKR pour gérer Kubernetes sur infrastructure GPU
NVIDIA a publié en open source deux projets destinés à faire tourner un service Kubernetes managé sur une infrastructure GPU : NVIDIA Kubernetes Engine (NVKE) et NVIDIA Kubernetes Recipes (NVKR). Annoncés récemment comme composants de la plateforme NVIDIA DSX AI Factory, ils sont distribués sous licence Apache 2.0 et en préversion publique. NVKE constitue le plan de contrôle d'un service Kubernetes managé : il expose une API REST et des contrôleurs sur un cluster de gestion, s'appuie sur Kubernetes amont, kubeadm et Cluster API, et est écrit en Go. Les clients obtiennent des clusters standard pilotés avec kubectl, tandis que l'opérateur utilise l'API ou la CLI nvkectl. NVKR, lui, est un système de build qui produit exécutables, images de conteneurs, charts Helm et images de nœuds pour amd64 et arm64, avec des signatures, des SBOM et des attestations de provenance sur des références OCI épinglées par digest. L'empreinte minimale comprend trois serveurs CPU pour le cluster de gestion, trois par plan de contrôle de charge de travail et un pool de nœuds GPU. Un test local demande 6 CPU, 12 Gio de RAM et 100 Gio de disque, sans GPU.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Le fonctionnement repose sur cinq étapes. Une commande d'amorçage lance un cluster kind temporaire, qui demande trois serveurs à NVIDIA Infra Controller (NICo) pour former le cluster de gestion, puis disparaît. NICo gère le cycle de vie du bare métal, relié à NVKE par le fournisseur Cluster API CAPNICo. Les opérateurs publient des jeux de versions (image machine, version de cluster, version de pool de nœuds) que les clients sélectionnent par nom. Chaque cluster client dispose de son propre plan de contrôle, de son etcd et de ses pools, avec OVN-Kubernetes et NodeLocal DNSCache. Un nœud doit présenter une identité SPIFFE attestée, via SPIRE et TPM, avant de recevoir ses identifiants de jonction, et le chiffrement etcd par cluster est disponible.
L'enjeu est de proposer aux fournisseurs de clouds GPU une base ouverte, attestée et fondée sur du Kubernetes amont, au lieu de solutions propriétaires. NVKE est certifié Kubernetes AI Platform et Kubernetes Installer, avec des tests de conformité sur Kubernetes 1.36, là où Gardener (SAP) est certifié jusqu'à la 1.35 et Kamaji (Clastix) se présente comme compatible CNCF. Contrairement à ces deux projets, NVKE cible spécifiquement le bare métal NVIDIA et dédie à chaque cluster un plan de contrôle et un etcd. Les limites sont toutefois nettes : après installation, l'API NVKE répond en HTTP non chiffré sur le port 30080 avec l'authentification désactivée, et aucune procédure de mise à niveau ni de sauvegarde du plan de gestion n'existe. Aucun benchmark de débit ou de temps de provisionnement n'est publié. Le projet n'est donc pas destiné à la production.
Cette publication s'inscrit dans la stratégie de NVIDIA de fournir une pile complète pour les « usines d'IA », au-delà du matériel. Les partenaires cloud Firmus et SK Telecom intègrent déjà les deux projets, tandis que Mirantis, Rafay, Spectro Cloud, OpenNebula Systems et vCluster ajoutent des composants à leurs offres Kubernetes managées, et Netris active NVKE pour son automatisation réseau. Dans les clusters clients se branchent trois projets complémentaires : AI Cluster Runtime (AICR) pour le runtime GPU, NodeWright pour les paquets de nœuds et NVSentinel pour l'automatisation des réparations. La suite dépendra de la capacité de NVIDIA à combler les lacunes de sécurité et de cycle de vie avant toute adoption en production, et de la place que prendront ces outils face aux gestionnaires de clusters déjà établis.
Les fournisseurs de clouds GPU européens pourraient s'appuyer sur une base Kubernetes ouverte, mais le projet en préversion n'est pas prêt pour la production.