Perplexity publie Decider v1.3 : les modèles de décision à poids ouverts gagnent la fonction Locate
Perplexity a publié pplx-décider-v1.3 et pplx-décider-flash-v1.3, les dernières versions de sa famille de modèles de décision en poids ouverts, distribués sous licence Apache 2.0 sur Hugging Face et également accessibles via l'API Perplexity Decisions et OpenRouter. Contrairement à un modèle génératif, Decider ne rédige pas de réponse : il renvoie une probabilité pour chaque option d'une question (oui/non, choix multiple ou score) portant sur un texte ou une image. La grande version compte 27 milliards de paramètres selon la documentation (26 milliards d'après Hugging Face), la version Flash 4 milliards (5 selon Hugging Face). Il faut environ 49 Gio de poids en BF16 pour la première et 8,5 Gio pour la seconde, sans variante quantifiée. La nouveauté principale est Locate, qui extrait des segments de texte exacts, avec leurs positions de début et de fin, à partir d'un type d'information ou d'une consigne. Selon les évaluations rapportées par Perplexity, le modèle atteint 91,6 % de précision moyenne sur 63 tâches de classification de requêtes, 83,99 de nDCG@10 sur 72 tâches de recherche et de reranking, et 93,98 % d'accord avec des juges LLM de pointe sur un million de requêtes réelles.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'intérêt pratique tient d'abord au coût et à la stabilité. Perplexity facture 0,02 dollar par million de jetons en entrée pour v1.3 et 0,01 dollar pour Flash, avec une sortie gratuite, soit 26,47 dollars pour un million de requêtes de production avec v1.3 et 13,24 dollars avec Flash, contre 68,10 dollars pour Jev 1.14 de TypeSafe. Le modèle ne change de réponse que dans 0,27 % des cas lorsqu'on réordonne ou renomme les options, alors que Jev 1.14 bascule entre 2,69 % et 4,84 % du temps. Cette robustesse compte pour les équipes qui utilisent ces classifieurs pour la modération, le routage de requêtes ou le tri de documents. Locate élargit en outre l'usage à la reconnaissance d'entités nommées, à la détection de données personnelles et aux questions-réponses extractives. Il garde toutefois des limites : sa moyenne de 69,0 sur 17 tâches hors domaine est son score absolu le plus bas (63,6 pour Flash), même si elle dépasse nettement Liquid d1 (43,3) et GLiNER large v2.5 (33,6). Flash reste par ailleurs en retrait face à Jev 1.14 en finance, en programmation et en droit. Tous ces chiffres proviennent de Perplexity elle-même et n'ont pas été vérifiés de façon indépendante.
Sur le plan technique, Perplexity transforme un modèle de langage génératif, construit sur Qwen, en classifieur. La couche de sortie part de la tête de langage du modèle de base, réduite aux jetons d'options (A, B, C), tandis qu'une tête de décision linéaire lit l'état caché au niveau d'un jeton marqueur. Les couches d'attention complète sont rendues bidirectionnelles, ce qui a amélioré les résultats lors des ablations. Autre changement par rapport à la v1.2 : chaque question ne voit désormais que l'état partagé et elle-même, ce qui évite que les réponses s'influencent entre elles, tout en conservant un seul passage avant par entrée. L'entraînement comprend un ajustement complet sur des centaines de jeux de données publics, puis deux adaptateurs LoRA, l'un de spécialisation et l'autre pour la vision, avec une moyenne des poids sur trois graines. Flash est distillé du grand modèle par minimisation de la divergence KL. Pour Locate, un jeton dédié par champ, une tête de segments et un adaptateur LoRA restent séparés du reste, car leur fusion dégradait la précision des décisions. Cette famille s'inspire de Jev de TypeSafe, dont Perplexity cherche à proposer une alternative ouverte, face aussi à des rerankers ouverts comme Qwen3-Reranker-8B, qu'elle devance de 1,81 point en nDCG@10.