StepFun publie les poids ouverts de Step 5 Preview : MoE de 600B, 27B actifs, contexte de 1M
StepFun a publié en open weights Step 5 Preview, son modèle phare pour les tâches agentiques de longue durée. Les points de contrôle FP8 et BF16 sont disponibles sur Hugging Face et ModelScope, après un lancement de l'API le 20 septembre et une ouverture des poids le 14 octobre. Il s'agit d'un modèle Mixture-of-Experts parcimonieux de 600 milliards de paramètres, dont 27 milliards sont activés par token, avec une fenêtre de contexte pouvant atteindre 1 million de tokens. Son architecture compte 92 blocs transformer, alterne attention à fenêtre glissante à porte et attention complète selon un rapport 3 pour 1, et utilise une tête de décodage spéculatif MTP-3 qui procure environ 30 % d'accélération de bout en bout. Il a été entraîné en précision mixte FP8, avec de l'apprentissage par renforcement sur des millions d'environnements agentiques vérifiables. Sur la Hugging Face card, StepFun annonce 67,7 sur DeepSWE v1.1, 33,3 sur Terminal-Bench 4.0 et 29,5 sur Agents' Last Exam. Artificial Analysis, via OpenRouter, mesure un Intelligence Index de 43,7, 88,3 % sur AA-LCR (raisonnement long contexte), 46,5 % sur Humanity's Last Exam et 54,3 % sur GDPval-AA.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Le modèle s'adresse aux développeurs qui cherchent une option auto-hébergeable pour des agents de code, l'analyse documentaire et les workflows financiers, mais il reste réservé aux infrastructures de centre de données. Le point de contrôle FP8 pèse à lui seul 650,32 Go et exige 4 GPU B300 ou 8 H200 sur un nœud, tandis que le BF16 demande 8 B300 ou 16 H200 répartis sur deux nœuds. Côté tarification, l'API facture 1,00 dollar le million de tokens en entrée, contre 3,00 dollars pour Kimi K3, et 2,70 dollars en sortie, contre 15,00 dollars, ce qui en fait une alternative nettement moins chère. Les résultats sont contrastés : sur la finance, StepFun revendique 66,4 % sur FrontierFinance, devant GLM-5.3 (64,1) et Kimi K3 (62,6), mais derrière Claude Opus 5 (69,7). En revanche, Vals AI relève de nets points faibles, avec 0,4 % sur SRE Bench et 9,2 % sur le Legal Agent Benchmark de Harvey. Sur Terminal-Bench 4.0, Step 5 Preview reste loin de GLM-5.3 (41,9).
Ce lancement s'inscrit dans la course des modèles à poids ouverts pour l'agentique, où StepFun affronte GLM-5.3 (753 Go de fichiers, contexte de 1 million de tokens, texte seul) et Kimi K3 (2,8 billions de paramètres, 104 milliards actifs, poids MXFP4). Sur le code, Step 5 Preview se situe au niveau de ces pairs, mais reste derrière GPT-6 Astra et Claude Opus 5. Il faut toutefois lire les comparaisons avec prudence : StepFun a évalué son modèle au réglage de raisonnement High, alors que ses concurrents tournent en effort Max dans son graphique, et les chiffres de rivaux proviennent de transcriptions du graphique par CellCog et eesel. Le modèle accepte le texte et l'image, la vidéo étant gérée via l'API, et il est distribué sous la StepFun Model License 1.0. Les moteurs vLLM et SGLang fournissent des images Docker dédiées avec API compatible OpenAI, et le backend MegaMoE sert les modes expert-parallèle sur Blackwell. Transformers ne prend en charge que la génération hors ligne, le flux complet BF16 par fragments n'étant pas encore validé. StepFun recommande une température de 1,0, un topp de 0,95 et un topk de 0.
Pas d'impact direct sur la France/UE