Partagez des ressources entre équipes avec la gestion des quotas d'AWS Batch pour les jobs d'entraînement SageMaker
AWS Batch, le service de planification de charges de travail d'Amazon Web Services, introduit une fonctionnalité de gestion des quotas destinée aux jobs d'entraînement Amazon SageMaker. Elle complète la prise en charge de SageMaker Training par AWS Batch, qui permettait déjà de mettre en file d'attente, de planifier et de relancer automatiquement des entraînements de machine learning sans construire sa propre infrastructure. Les administrateurs peuvent désormais répartir la capacité de calcul en « quota shares », des parts organisées par équipe, projet ou type de charge. Chacune comprend des limites de capacité et une stratégie de partage des ressources inactives, avec trois options : RESERVE, qui garde la capacité en attente de jobs, LEND, qui la prête aux autres parts ayant du travail, et LENDANDBORROW, qui prête quand la part est inactive et emprunte quand elle a besoin de plus. Une part fonctionne comme une file virtuelle imbriquée dans une file de jobs. La configuration passe par une politique d'ordonnancement contenant une quotaSharePolicy et un environnement de service, et s'utilise avec le SDK Python de SageMaker v3.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
Lors de l'ordonnancement, AWS Batch traite en priorité les parts qui n'ont pas atteint leur limite. Si un job arrive dans une part ayant prêté sa capacité, le service réalise une préemption inter-parts : il récupère les ressources prêtées, sans que l'administrateur ait à repérer et arrêter lui-même les jobs qui les empruntaient. Si une part a atteint sa limite, le service cherche de la capacité à emprunter chez une autre part. Une préemption interne à la part, activable à la configuration, permet en outre d'interrompre les jobs de moindre priorité (planifiés, en démarrage ou en cours) pour faire passer plus vite ceux de priorité supérieure en tête de file.
L'enjeu est d'abord économique et organisationnel. Les GPU sont rares et coûteux, et leur partage entre plusieurs équipes impose aujourd'hui des files séparées, des ajustements manuels de limites et une coordination constante. Automatiser le prêt, l'emprunt et la récupération de capacité réduit cette charge d'administration et limite les GPU laissés inactifs, tout en garantissant à chaque équipe son allocation quand elle en a besoin. Pour les organisations qui multiplient les équipes IA, cela évite de surdimensionner les clusters ou de se disputer les ressources.
Cette annonce répond à une demande récurrente des clients gérant des environnements d'entraînement multi-équipes : définir des allocations par équipe ou projet, partager automatiquement la capacité inutilisée et exécuter d'abord les charges les plus prioritaires. L'amélioration de l'utilisation du calcul est l'un des arguments centraux d'AWS Batch, et la croissance des besoins en entraînement la rend plus pertinente. Cette approche rejoint les mécanismes de partage équitable et de quotas des ordonnanceurs de clusters GPU, qu'AWS intègre ici à un service entièrement géré, en concurrence avec les solutions que les entreprises assemblent elles-mêmes autour de Kubernetes ou de Slurm.
Pas d'impact direct sur la France/UE