Guide du développeur pour Laya : décisions zero-shot et calibration
Laya, le moteur de décision open source de Convai Innovations, est devenu l'un des dépôts d'apprentissage automatique les plus étoilés de septembre 2026. Il s'agit d'un modèle « Système 1 » non autorégressif : au lieu de générer du texte, un encodeur de 421 millions de paramètres lit un texte et une série de questions typées (choix entre plusieurs étiquettes, note sur une échelle, réponse oui/non) et renvoie une probabilité pour chaque option en une seule passe, sans produire le moindre jeton de sortie. Un tutoriel publié pour les développeurs le met à l'épreuve sur le domaine bancaire du jeu de données d'intentions CLINC150, dont les réponses sont connues. Il mesure la précision en zéro-shot face à un classifieur entraîné, l'influence de la formulation et de l'ordre des options, la fiabilité des probabilités livrées avec le modèle, l'effet d'un ajustement de la température sur des données de validation, une barrière d'abstention calée sur un budget d'erreur, le trafic hors périmètre, une question oui/non que la température ne parvient pas à corriger, et des sorties typées via un schéma pydantic. La première étape installe la version 0.3.27 du paquet et charge le point de contrôle anglais à la révision validée par ses auteurs, en désactivant l'autocast pour rester en fp32 et obtenir des résultats reproductibles du CPU au GPU. L'enjeu est très concret pour quiconque construit un routeur de production. Dans ce type de système, ce qui compte n'est pas la fluidité d'un texte généré mais la rapidité de la décision et l'honnêteté de la confiance qui l'accompagne. Des probabilités bien calibrées permettent de décider quand agir automatiquement, quand s'abstenir et quand renvoyer la requête vers un humain ou un modèle plus lourd, en respectant un taux d'erreur acceptable. Le tutoriel montre aussi les pièges : l'ajustement de la température peut corriger certains défauts tout en en créant d'autres sans qu'on s'en aperçoive, et certaines questions, comme le oui/non évoqué, résistent à ce réglage. Les développeurs y trouvent une méthode de vérification sur données réelles plutôt que de simples exemples tirés du fichier README. Le contexte tient à la montée des modèles de décision rapides et typés, que Laya présente comme la réponse ouverte au modèle Jev de TypeSafe. Les températures fournies avec le point de contrôle (probabilités égales à softmax(logits / T)) illustrent un détail technique révélateur : pour les questions à choix comportant 11 options ou plus, la valeur livrée de 0,10 est ramenée à 0,5 par le chargeur, ce qui accentue les probabilités d'un facteur deux. L'étape 6 du tutoriel mesure précisément le coût de cette particularité. Cette démarche s'inscrit dans un débat plus large sur la place des petits modèles spécialisés à côté des grands modèles génératifs, où la calibration devient un critère de confiance aussi important que la précision brute.
