Les modèles de décision sur Hugging Face
Les modèles de décision, une nouvelle catégorie de modèles disponibles sur Hugging Face, proposent de remplacer la génération de texte par une évaluation directe de réponses prédéfinies. Le principe est simple : à partir d'un contexte (l'état), le modèle examine une question assortie d'un ensemble de réponses possibles (les primitives) et renvoie une décision structurée accompagnée de probabilités, sans produire le moindre token de texte. Prenons un service client qui reçoit le message « J'ai été débité deux fois pour mon abonnement, je veux un remboursement aujourd'hui ». Le système doit déterminer quelle équipe doit traiter la demande, son degré d'urgence et s'il s'agit bien d'une demande de remboursement. L'approche a été popularisée par TypeSafe AI avec Jev, présenté comme un modèle « System One », en référence à la pensée rapide et intuitive par opposition à la réflexion délibérative. La communauté a toutefois retenu le terme « modèle de décision », jugé plus fidèle au rôle computationnel du modèle, à l'issue d'un sondage sur Twitter.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de HuggingFace Blog. Lire l'article original →
L'intérêt est d'abord pratique. Demander à un LLM de renvoyer un objet JSON est aujourd'hui courant pour la classification ou le routage, mais rien ne garantit que le schéma soit respecté : le JSON peut être invalide, comporter des clés inattendues ou contenir une réponse hors des choix autorisés. Le décodage contraint, avec des bibliothèques comme Outlines ou XGrammar, force la structure en limitant les tokens autorisés à chaque étape, mais il ajoute un surcoût de calcul. Surtout, générer une réponse entière par décodage autorégressif est un travail superflu lorsque l'application n'a qu'à choisir parmi des options connues. Un modèle de décision produit directement une distribution de probabilités sur ces options, ce qui facilite le routage, le tri et le seuillage de confiance, avec des sorties que l'application comprend nativement.
Pour situer ces modèles, il faut les comparer à la classification classique et à la classification zero-shot. Un classifieur traditionnel apprend à associer une entrée à un jeu fixe d'étiquettes : une tête de classification produit un logit par classe, transformé en probabilités par un softmax. Ses classes sont donc figées dans l'architecture, et l'ajout d'un département « Juridique » à trois équipes existantes exige de modifier la tête, de collecter des données et de réentraîner ou adapter le modèle. La classification zero-shot lève en partie cette limite en fournissant les étiquettes candidates au moment de l'inférence, souvent via un modèle d'inférence en langage naturel (NLI) qui convertit chaque étiquette en hypothèse et mesure à quel point l'entrée l'implique. Les modèles de décision prolongent cette idée : ils acceptent plusieurs questions nommées sur un même état, avec des types de réponses différents, qu'il s'agisse de choisir entre des alternatives (choice), de noter sur une échelle ordonnée (score) ou d'estimer la probabilité qu'une affirmation soit vraie. Leur interface est conçue autour de la distribution de probabilités sur les décisions possibles, et non d'une simple affectation à une catégorie.