OpenBMB lance MiniCPM5-2B, un modèle dense de 2,52 milliards de paramètres pour appareils, avec 53,9 de moyenne sur 34 benchmarks
OpenBMB a publié MiniCPM5-2B, deuxième modèle de la série MiniCPM5 après MiniCPM5-1B. Il s'agit d'un modèle dense à 2 516 756 480 paramètres, dont 1 981 982 720 hors couches d'embedding, organisé en 42 couches avec attention par groupes de requêtes (16 têtes de requête, 2 têtes clé/valeur) et une fenêtre de contexte native de 131 072 tokens. Son architecture LlamaForCausalLM standard permet un déploiement immédiat sur vLLM, SGLang, Transformers, llama.cpp, Ollama, LM Studio, MLX et FlagOS, sans code spécifique, sous licence Apache 2.0. Sur 34 benchmarks, OpenBMB annonce une moyenne de 53,9, devant Qwen3.5-4B (51,1), granite-4.2-3B (42,7) et LFM2.5-2,6B (33,2). Les écarts les plus nets apparaissent en usage d'outils, avec 97,1 sur τ²-Bench Telecom, 66,6 sur BFCL v4 et 20,8 sur τ³-Bench Banking contre 6,8 pour la référence, ainsi qu'en code, avec 69,1 sur LiveCodeBench v6 et 46,4 sur SWE-bench Verified. Le modèle reste toutefois en retrait sur les connaissances générales, avec 70,8 sur MMLU-Pro contre 78,0 pour Qwen3.5-4B.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Ce lancement illustre une tendance de fond dans l'industrie de l'IA générative : la course n'est plus seulement à la taille des modèles mais à leur efficacité embarquée, capable de tourner directement sur un appareil local plutôt que dans le cloud. Pour les développeurs d'agents autonomes et d'assistants de code, un modèle de 2,5 milliards de paramètres qui rivalise avec des modèles deux fois plus gros sur l'appel d'outils et le raisonnement en code représente une réduction significative des coûts d'inférence et de la latence, tout en conservant une compatibilité totale avec les moteurs d'exécution existants. La publication conjointe des jeux de données et des points de contrôle intermédiaires (Base, Midtrain, SFT) permet aussi à la communauté de vérifier précisément l'origine des gains de performance, une transparence rare qui renforce la crédibilité scientifique de l'annonce face aux effets d'annonce habituels du secteur.
Sur le plan technique, l'entraînement suit la méthode UltraData, avec des phases de pré-entraînement stable puis de décroissance, suivies de 400 milliards de tokens de fine-tuning supervisé, puis d'un renforcement par des experts spécialisés en mathématiques, code, tâches agentiques et rédaction via l'algorithme JustRL II. La dernière étape, la distillation on-policy (OPD), fusionne 16 experts RL en un seul modèle final, apportant selon OpenBMB 10,96 points de gain moyen en raisonnement et 6,96 points sur les tâches agentiques. OpenBMB a également publié Ultra-FineWeb, UltraX, UltraData-Code, UltraData-Math et plusieurs jeux de données SFT et RL, dont un ensemble de plus de 80 000 échantillons RL, consolidant sa position d'acteur ouvert face aux laboratoires fermés comme OpenAI ou Anthropic.
Pas d'impact direct sur la France/UE.