NVIDIA renforce son engagement open source avec le don d'OpenShell et de nouvelles infrastructures d'IA
NVIDIA a annoncé à KubeCon + CloudNativeCon qu'elle fait don de NVIDIA OpenShell à la Cloud Native Computing Foundation (CNCF), organisation à but non lucratif rattachée à la Linux Foundation. Ce runtime open source, conçu pour sécuriser et encadrer les agents autonomes, rejoint le programme CNCF Sandbox. Le groupe contribue également à Agent Substrate, un framework open source piloté par Google, déjà accepté dans la CNCF Sandbox, destiné à exécuter à grande échelle des agents de longue durée sur Kubernetes. NVIDIA a en outre dévoilé trois nouveaux composants de sa plateforme DSX AI Factory : NVIDIA Kubernetes Engine (NVKE), NVIDIA Kubernetes Recipes (NVKR), tous deux en préversion publique, et NVIDIA Snapshot. OpenShell applique des contrôles déterministes à l'activité des agents, qu'il s'agisse de l'usage d'outils, de l'accès aux services d'inférence ou de l'exécution de charges de travail. Hundreds of organizations l'utilisent déjà, et le projet a reçu des dizaines de milliers de contributions en moins d'un an.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de NVIDIA AI Blog. Lire l'article original →
L'enjeu est double : sécuriser les agents d'IA et pouvoir les déployer massivement. En confiant OpenShell à la CNCF, NVIDIA place l'infrastructure de sécurité des agents sous gouvernance communautaire, ouverte à l'inspection et à l'amélioration par des spécialistes du monde entier. Jim Zemlin, directeur général de la Linux Foundation, y voit une base commune permettant aux développeurs de façonner l'évolution de la sécurité des agents. Côté exploitation, Agent Substrate conserve les environnements des agents entre deux tâches tout en libérant la puissance de calcul lorsqu'ils sont inactifs, grâce à la suspension et à la reprise au sein d'un pool partagé. Les équipes n'ont donc plus à réserver du calcul dédié pour chaque session. NVIDIA veille à son interopérabilité avec Dynamo pour l'inférence et KAI Scheduler pour l'allocation des ressources, réunissant ainsi exécution des agents, service des modèles et ordonnancement sur Kubernetes.
Ces annonces s'inscrivent dans la place croissante de Kubernetes comme socle des charges de travail d'IA, du pilotage de milliers d'usines d'IA à l'orchestration d'agents. Les opérateurs de ces usines doivent proposer des services Kubernetes managés tout en gardant la maîtrise de leur infrastructure, de leurs logiciels et de l'expérience client. NVKE et NVKR répondent à ce besoin en automatisant la gestion du cycle de vie des clusters et en fournissant des images signées et à version figée. Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud et vCluster, ainsi que Firmus et SK Telecom, ont convenu avec NVIDIA de plans d'intégration dans leurs offres. NVIDIA et Google préparent par ailleurs une intégration d'OpenShell et d'Agent Substrate, afin que les entreprises puissent gouverner leurs agents sur plusieurs clouds et en environnement sur site. NVIDIA Snapshot vise enfin un autre point de friction, le chargement des modèles et le préchauffage des charges de travail, qui retardent la montée en capacité d'inférence et la reprise après incident.
Les opérateurs européens de clouds et d'usines d'IA, dont OpenNebula Systems, peuvent intégrer OpenShell et les composants Kubernetes de NVIDIA pour sécuriser et déployer leurs agents tout en gardant la maîtrise de leur infrastructure.