Comment Jamf a mis en place le contrôle des dépenses en temps réel pour Amazon Bedrock
Jamf, société qui gère et sécurise les appareils Apple pour plus de 76 000 organisations dans le monde, a mis au point un système de contrôle des dépenses en temps quasi réel pour l'usage d'Amazon Bedrock par ses équipes d'ingénierie. Après avoir ouvert largement l'accès à cette plateforme d'IA générative pour accélérer le développement assisté par IA, l'entreprise a constaté une hausse de la productivité mais aussi un besoin urgent de visibilité sur les coûts par utilisateur. Le système repose sur une architecture entièrement serverless combinant plusieurs services AWS : les journaux d'invocation d'Amazon Bedrock (modèle utilisé, nombre de tokens en entrée et sortie, identité de l'utilisateur) sont stockés dans Amazon S3, puis une vue Amazon Athena baptisée bedrockcosttoday calcule la dépense quotidienne de chaque ingénieur en croisant les volumes de tokens avec les tarifs publiés des modèles. Toutes les quinze minutes, une fonction AWS Lambda déclenchée par Amazon EventBridge évalue ces dépenses et applique des restrictions graduées : l'accès à Claude Opus d'Anthropic est coupé dès 80 % du budget journalier atteint, celui à Claude Sonnet à 100 %, tandis que Claude Haiku reste toujours disponible pour ne pas bloquer le travail. Les restrictions, appliquées via des politiques IAM (Customer Managed Policies) ciblant les utilisateurs par identifiant SAML, prennent effet en quelques minutes sans nécessiter de reconnexion, et sont réinitialisées automatiquement chaque jour.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
Ce cas illustre un problème de plus en plus pressant pour les entreprises qui déploient l'IA générative à grande échelle : contrairement au calcul traditionnel, dont le coût suit la capacité provisionnée, la dépense en IA suit le comportement des utilisateurs. Un seul ingénieur lançant une boucle de codage agentique sur un modèle premium peut consommer en quelques heures plus de tokens qu'une équipe entière en une semaine, rendant les coûts invisibles jusqu'à la facture. Ce système répond directement aux trois questions que se posent les directions avant d'élargir l'accès à l'IA : combien coûte chaque utilisateur, peut-on plafonner sans ralentir les équipes, et les gains de productivité justifient-ils la dépense. En automatisant la gouvernance financière de l'IA (AI FinOps) au niveau individuel, sans interrompre les sessions actives ni exiger de réauthentification, Jamf propose un modèle reproductible pour d'autres organisations confrontées au même dilemme entre innovation et maîtrise budgétaire.
Le dispositif s'inscrit dans la montée en puissance de l'IA générative comme outil de développement logiciel au sein des grandes organisations, où l'accès à des modèles comme ceux d'Anthropic devient un poste de dépense significatif et volatile. Jamf a prévu une soupape : les ingénieurs ayant un besoin légitime de dépasser leur quota peuvent obtenir, via un processus documenté, des limites temporaires plus élevées, et sont prévenus par un message Slack avant que les restrictions ne s'appliquent. Amazon présente cette architecture, bâtie sur DynamoDB, Athena, Lambda et IAM, comme un modèle de référence pour le contrôle des coûts d'IA en entreprise, à mesure que le sujet du FinOps appliqué à l'IA générative devient central pour les responsables techniques.
Pas d'impact direct sur la France/UE