Aller au contenu principal
IDE interactifs sur Amazon EKS avec SageMaker AI pour booster vos workflows d'IA
OutilsAWS ML Blog · 2 min de lecture

IDE interactifs sur Amazon EKS avec SageMaker AI pour booster vos workflows d'IA

Source originale ↗·

Amazon Web Services (AWS) a détaillé le déploiement d'un nouveau composant, l'add-on Amazon SageMaker AI Spaces, permettant de faire tourner des environnements interactifs JupyterLab et Code Editor directement sur un cluster Amazon Elastic Kubernetes Service (EKS), celui-là même qui héberge déjà les pipelines de machine learning des équipes. Jusqu'ici, les data scientists devaient quitter ce cluster pour un déploiement JupyterHub autonome ou une machine locale, perdant au passage l'accès aux nœuds GPU, au stockage partagé et aux rôles AWS Identity and Access Management (IAM) associés à leurs pipelines. L'add-on, disponible à partir de la version 0.1.4 (les versions antérieures ne prenaient en charge que SageMaker HyperPod), s'installe avec AWS CLI 2.x ou plus récent, kubectl 1.30 minimum et Helm v3, et nécessite une zone hébergée publique Route 53. L'architecture repose sur trois couches : un équilibreur de charge applicatif (ALB) exposé via AWS Load Balancer Controller avec certificat TLS émis par AWS Certificate Manager, un routage par nom d'hôte assuré par Traefik avec authentification par jetons JWT chiffrés via AWS Key Management Service (KMS), et des pods de calcul répartis sur des sous-réseaux privés utilisant le pilote CSI d'Amazon Elastic Block Store, complété par Amazon EFS ou FSx pour le stockage partagé. Selon AWS, monter un environnement JupyterHub autonome avec accès GPU, stockage et authentification demande habituellement trois à cinq jours de travail à une équipe plateforme, contre environ cinq minutes pour lancer un espace entièrement configuré avec ce nouvel add-on.

Cette évolution répond à un problème concret d'organisation des ressources coûteuses en entreprise : en regroupant les charges d'entraînement de modèles et les sessions interactives de développement sur un seul cluster, les nœuds GPU restent occupés entre deux tâches d'entraînement plutôt que de rester inactifs en attendant qu'un notebook séparé en ait besoin. AWS avance un gain d'utilisation des GPU pouvant atteindre 30 % par rapport à une flotte de notebooks dédiée, tout en évitant le coût d'un environnement GPU maintenu en permanence, qui peut atteindre plusieurs milliers de dollars par mois. Pour les équipes de data science, cela signifie moins de frictions administratives et un accès direct, en quelques minutes, à un environnement de développement complet sans dépendre d'une infrastructure parallèle gérée séparément par les équipes plateforme.

Ce lancement s'inscrit dans la tendance plus large de rapprochement entre outils d'IA interactifs et infrastructures Kubernetes de production, un terrain où AWS cherche à simplifier l'expérience face à des alternatives comme les notebooks gérés de Databricks ou Google Vertex AI Workbench. Le déploiement décrit inclut aussi un accès VS Code via tunnel SSH par-dessus AWS Systems Manager, facturé environ 0,00695 dollar par heure et par pod, ainsi qu'une trajectoire d'évolution vers une authentification unifiée par OpenID Connect (OIDC) avec Amazon Cognito, signe qu'AWS prépare cette brique pour une adoption à l'échelle d'équipes entières plutôt que pour des usages isolés.

Impact France/UE

Les equipes de data science en France et en UE utilisant AWS pourront reduire leurs couts d'infrastructure GPU grace a cet add-on, sans impact reglementaire specifique.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

ComfyUI sur Amazon SageMaker : exécuter des workflows de traitement
1AWS ML Blog 

ComfyUI sur Amazon SageMaker : exécuter des workflows de traitement

Amazon Web Services a publié un guide technique détaillant comment exécuter des workflows ComfyUI sur Amazon SageMaker AI, via ses "processing jobs", pour automatiser la génération de contenu visuel à grande échelle. La solution repose sur AWS Cloud Development Kit (CDK) et des instances GPU accélérées avec une facturation à la seconde et arrêt automatique à la fin du job. En pratique, le dispositif permet de générer des centaines d'images haute qualité en un seul batch, à partir de workflows ComfyUI exportés au format JSON. AWS illustre également l'intégration du modèle Z-Image Turbo, un modèle texte-vers-image reposant sur une architecture Transformer à flux unique (S3DiT) de 6 milliards de paramètres, 30 couches, une taille cachée de 3 840 et 32 têtes d'attention, avec une technique de fusion précoce qui traite uniformément les tokens texte et image dans le même Transformer. Pour les équipes marketing et créatives des grandes entreprises, cette automatisation change concrètement les règles du jeu. Là où un designer devait itérer manuellement pour produire des visuels adaptés à chaque marché ou segment d'audience, il devient possible de générer en une heure des centaines de visuels cohérents avec la charte graphique, des voix synthétisées multilingues pour des campagnes publicitaires, ou des clips vidéo avec scripts et images générés par IA. La facturation à la seconde de SageMaker élimine le gaspillage de compute, tandis que l'architecture en file d'attente traite plusieurs demandes en parallèle sans intervention manuelle. L'enjeu commercial est direct : chaque heure gagnée en production de contenu peut être réinvestie dans le lancement d'une campagne supplémentaire ou le ciblage d'un nouveau segment d'audience. Cette initiative s'inscrit dans une tendance de fond : les hyperscalers intègrent de plus en plus les outils open-source de l'IA générative dans leurs plateformes cloud managées, pour capter les workflows déjà adoptés par les praticiens. ComfyUI s'est imposé comme standard de facto pour composer des pipelines d'IA générative complexes sans coder chaque étape, grâce à son interface visuelle modulaire et ses workflows versionnables. En le portant sur SageMaker, AWS vise les entreprises qui utilisent déjà ComfyUI en local mais peinent à le faire passer à l'échelle en production. La prise en charge de modèles comme Z-Image Turbo, avec son architecture decoder-only inspirée des grands modèles de langage, signale aussi que la frontière entre génération de texte et génération d'image continue de s'estomper sur le plan architectural, ouvrant la voie à des pipelines multimodaux encore plus intégrés.

OutilsOutil
1 source
L'auto-surveillance de l'inférence pour les endpoints Amazon SageMaker AI avec Amazon Quick
2AWS ML Blog 

L'auto-surveillance de l'inférence pour les endpoints Amazon SageMaker AI avec Amazon Quick

AWS a publié une nouvelle architecture de référence pour la surveillance des modèles de machine learning en production, baptisée "méta-surveillance de l'inférence", conçue pour les endpoints Amazon SageMaker AI et pilotée via Amazon Quick. Le projet est disponible en open source sur GitHub, dans le dépôt sample-mlops-bestpractices, version v2.0.0, et s'installe via un modèle CloudFormation qui crée automatiquement le VPC, les sous-réseaux, un domaine SageMaker AI, un profil utilisateur et un espace JupyterLab. L'architecture combine des services managés AWS, Amazon SageMaker AI, Amazon Athena, AWS Lambda, Amazon EventBridge et Amazon Quick, avec des outils open source comme MLflow, via les SageMaker AI MLflow Apps, et Evidently AI pour la détection de dérive des données. Le système s'appuie sur cinq tables Iceberg dans Athena formant un data lake central. L'une, trainingdata, contient les 80% de données utilisées pour entraîner le modèle. L'autre, evaluationdata, conserve les 20% restants comme référence gelée servant à mesurer la dérive de chaque modèle enregistré, et non l'ensemble d'entraînement lui même. Les deux tables sont alimentées à partir du même fichier CSV de prédictions via une étape unique appliquant un découpage déterministe par hachage des transactions. Le pipeline d'entraînement, documenté dans le notebook 1trainingpipeline.ipynb, télécharge un jeu de données de détection de fraude bancaire depuis Kaggle et trace les expériences via MLflow. Cette solution répond à un angle mort classique du machine learning en production : sans mécanisme de suivi continu, les entreprises ne découvrent la dégradation de leurs modèles que lorsque les clients se plaignent ou lors de vérifications ponctuelles, ce qui abîme la confiance. Concrètement, les équipes anti-fraude voient les faux positifs grimper, les analystes de crédit laissent passer des dossiers qui auraient dû être signalés, et les planificateurs se retrouvent avec des stocks excédentaires à cause de prévisions de demande faussées. En superposant une couche de gouvernance au dessus des pipelines d'inférence, avec détection de dérive, intégration de données de vérité terrain différées et tableaux de bord automatisés, les équipes ML peuvent repérer un problème de qualité dès son apparition plutôt que des semaines plus tard, et agir avant que l'impact commercial ne devienne visible pour les clients. Cette initiative illustre un défi plus large de l'industrie : entraîner un modèle prédictif fiable, pour la détection de fraude, le scoring de crédit ou la prévision de la demande, mobilise souvent des mois de travail, mais rien ne garantit que ses performances restent stables une fois déployé. AWS propose ici un gabarit reproductible mêlant outils managés et open source, que les équipes peuvent adapter à leur propre domaine SageMaker en modifiant simplement un fichier de configuration .env, avant d'exécuter les notebooks fournis dans l'ordre pour reproduire l'ensemble du pipeline entraînement, inférence, surveillance.

OutilsOutil
1 source
3AWS ML Blog 

Traçabilité de bout en bout avec DVC et Amazon SageMaker AI MLflow

Les équipes de machine learning en production font face à un problème récurrent : retracer précisément l'origine d'un modèle déployé. Quelle version du jeu de données l'a entraîné ? Peut-on reproduire à l'identique un modèle mis en production il y a six mois ? Amazon Web Services propose une réponse concrète en combinant trois outils : DVC (Data Version Control), Amazon SageMaker AI et SageMaker AI MLflow Apps. L'architecture s'articule en quatre étapes : un job SageMaker Processing prétraite les données brutes et les versionne via DVC en les poussant vers Amazon S3 ; un job SageMaker Training clone le dépôt DVC à un tag Git précis, récupère le dataset exact via dvc pull, entraîne le modèle et enregistre tout dans MLflow. Chaque run MLflow stocke un identifiant datagitcommit_id, soit le hash DVC pointant vers le dataset exact dans S3. Le modèle entraîné est ensuite enregistré dans le MLflow Model Registry et peut être déployé sur un endpoint SageMaker. La chaîne de traçabilité complète devient alors : modèle en production → run MLflow → commit DVC → dataset dans Amazon S3. Cet enchaînement répond à un besoin critique dans les secteurs régulés : santé, services financiers, véhicules autonomes. Dans ces domaines, les exigences d'audit imposent de relier chaque modèle déployé à ses données d'entraînement précises, et de pouvoir exclure à la demande des enregistrements individuels des futurs cycles d'entraînement. Sans ce niveau de traçabilité, une question apparemment simple, "quelles données ont servi à entraîner le modèle actuellement en production ?", peut mobiliser plusieurs jours d'enquête dans des logs dispersés, des notebooks et des buckets S3. La solution proposée réduit ce risque opérationnel en rendant la traçabilité structurelle plutôt qu'optionnelle. DVC est un outil open source gratuit qui étend Git pour gérer des datasets volumineux et des artefacts ML que Git seul ne peut pas versionner. MLflow, de son côté, assure le suivi des expériences, le registre des modèles et la lignée. Les deux outils couvrent chacun la moitié du problème de traçabilité, et leur combinaison ferme la boucle. L'implémentation requiert un compte AWS avec des permissions sur SageMaker, S3, CodeCommit et IAM, Python 3.11 ou 3.12, et le SDK SageMaker v3.4.0 minimum. Les notebooks utilisent AWS CodeCommit comme backend Git pour les métadonnées DVC, mais l'architecture est compatible avec GitHub, GitLab ou Bitbucket moyennant un simple remplacement de l'URL remote. AWS publie des notebooks d'accompagnement permettant de déployer les deux patterns décrits, traçabilité au niveau du dataset et traçabilité au niveau de l'enregistrement individuel, directement dans un compte AWS existant.

UELa traçabilité structurelle décrite répond directement aux exigences de documentation et d'auditabilité imposées par l'AI Act européen pour les systèmes d'IA à haut risque dans les secteurs régulés (santé, finance, véhicules autonomes).

OutilsTuto
1 source
Des workflows guidés par agents pour accélérer la personnalisation de modèles dans Amazon SageMaker AI
4AWS ML Blog 

Des workflows guidés par agents pour accélérer la personnalisation de modèles dans Amazon SageMaker AI

Amazon a lancé une expérience agentique intégrée dans SageMaker AI pour simplifier radicalement la personnalisation des modèles de langage. Jusqu'ici, adapter un modèle fondation à un cas d'usage métier exigeait de maîtriser des techniques comme le Supervised Fine-Tuning (SFT), le Direct Preference Optimization (DPO) ou le Reinforcement Learning Verifiable Rewards (RLVR), de naviguer entre des APIs fragmentées et des formats de données spécifiques à chaque modèle, et de gérer des cycles d'expérimentation qui s'étiraient sur plusieurs mois. Désormais, un développeur peut décrire son cas d'usage en langage naturel, et l'agent de codage prend en charge l'ensemble du parcours: définition du problème, préparation des données, sélection de la technique d'entraînement, évaluation de la qualité du modèle, puis déploiement vers Amazon Bedrock ou un endpoint SageMaker AI. Amazon Kiro, l'agent de développement logiciel d'Amazon, est préconfiguré par défaut dans l'environnement JupyterLab de SageMaker AI Studio, avec complétion de code, débogage assisté et support interactif. Les agents compatibles avec le protocole ACP (Agent Communication Protocol), dont Claude Code d'Anthropic, peuvent également être intégrés et bénéficier des mêmes fonctionnalités. La version 4.1 ou supérieure de SageMaker AI Distribution est requise, ainsi qu'un rôle IAM avec la politique gérée AmazonSageMakerFullAccess. Le coeur du dispositif repose sur des "Skills", des modules d'instructions préconçus et modulaires qui encapsulent l'expertise AWS et data science sur l'ensemble du cycle de personnalisation. Lorsqu'un développeur décrit son besoin, l'agent active automatiquement les Skills pertinents, qui le guident à travers la validation des données, la configuration des hyperparamètres et l'évaluation du modèle via des métriques LLM-as-a-Judge. Chaque étape génère des notebooks directement exécutables, entièrement modifiables et réutilisables dans des workflows existants. Un avantage opérationnel concret: les Skills réduisent la consommation de tokens tout en augmentant la précision des réponses, car l'agent dispose d'un contexte spécialisé plutôt que de connaissances génériques. Les organisations peuvent personnaliser ces Skills pour les aligner sur leurs standards de gouvernance, leurs outils internes et leurs pratiques d'équipe, résolvant ainsi un problème récurrent avec les assistants de codage généralistes qui ne reproduisent pas de manière fiable les conventions maison. L'annonce s'inscrit dans une dynamique plus large où la personnalisation des modèles devient le principal levier de différenciation concurrentielle, tous les acteurs ayant accès aux mêmes modèles fondations publics. Amazon positionne SageMaker AI comme une plateforme bout-en-bout pour les équipes qui veulent exploiter leurs données propriétaires sans assembler elles-mêmes une chaîne d'outils dispersés. La prise en charge du protocole ACP ouvre la voie à un écosystème d'agents tiers, signalant une stratégie d'interopérabilité plutôt que de verrouillage. Les prochaines étapes naturelles incluent l'extension de ce type d'expérience agentique à d'autres phases du cycle MLOps, comme la surveillance des modèles en production ou la gestion des dérives de données.

UELes équipes data européennes utilisant AWS SageMaker AI peuvent accélérer leurs projets de fine-tuning de modèles fondation sans expertise MLOps avancée, réduisant les délais de personnalisation sur données propriétaires.

OutilsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic