Sorties structurées pour les modèles Claude d'Anthropic sur Amazon Bedrock
Amazon Bedrock prend désormais en charge les sorties structurées pour tous les modèles Claude d'Anthropic, sur les deux points d'accès bedrock-runtime et bedrock-mantle, partout où le modèle est disponible. Que les développeurs appellent Claude via Boto3 et les API bedrock-runtime, ou via l'API Messages et le point d'accès bedrock-mantle, ils reçoivent des réponses JSON conformes à un schéma défini, sans analyse personnalisée, logique de nouvelle tentative ni post-traitement. Deux mécanismes complémentaires sont proposés : un format de sortie JSON Schema, destiné à l'extraction de données, à la génération de rapports ou aux réponses d'API, et un mode « strict tool use » qui valide les paramètres d'outils par rapport à des schémas, utile pour les workflows agentiques et l'appel de fonctions. La fonctionnalité est compatible avec l'inférence par lots, avec le streaming d'événements typés et, sur bedrock-runtime, avec l'inférence inter-régions.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
L'intérêt tient au changement de nature de la fiabilité. Les sorties structurées reposent sur un décodage contraint qui impose le schéma pendant la génération des tokens, et non après coup : le modèle ne peut tout simplement pas produire un token qui violerait la structure. Le formatage passe ainsi du probabiliste au déterministe. Chaque réponse est un JSON valide, les types de champs sont respectés et les champs obligatoires sont toujours présents, ce qui supprime les erreurs de JSON.parse() et les nouvelles tentatives liées aux violations de schéma. Comme la réponse se limite aux champs définis, le nombre de tokens de sortie diminue, ce qui peut réduire les coûts d'inférence pour les charges à fort volume. Les cas d'usage visés incluent l'extraction de champs dans des rapports financiers et documents de conformité, la conversion de notes cliniques en dossiers médicaux électroniques, l'enrichissement de catalogues produits, l'analyse de contrats (parties, obligations, termes clés) et le routage de tickets de support dont les intentions, sentiments et entités correspondent toujours au modèle de données de l'application.
Sur le plan technique, le fonctionnement se déroule en quatre étapes. Amazon Bedrock valide d'abord le schéma par rapport au sous-ensemble pris en charge de JSON Schema Draft 2020-12, puis compile un artefact de grammaire pour tout nouveau schéma, ce qui peut allonger légèrement la première requête. Cette grammaire compilée est ensuite mise en cache pendant 24 heures à compter du premier accès, à l'échelle du compte, de sorte que les requêtes suivantes s'exécutent avec un surcoût minimal. Modifier la structure du schéma invalide le cache et déclenche une nouvelle compilation, alors que changer uniquement un nom ou une description laisse la grammaire en cache intacte. Cette annonce s'inscrit dans la tendance des fournisseurs de modèles à proposer des garanties de format natives, afin de rendre les applications d'IA déployables en production sans couche de validation supplémentaire. L'API InvokeModel, qui accepte le format de requête natif d'Anthropic, constitue l'un des points d'entrée pour démarrer.
Les développeurs et entreprises européens utilisant Claude sur Amazon Bedrock dans les régions de l'UE peuvent fiabiliser leurs extractions de données et workflows agentiques, y compris pour des documents de conformité.