RadixArk lance DaisyRose-27B, un modèle de 27 milliards de paramètres pour le code à base d'agents, entraîné uniquement par apprentissage par renforcement
RadixArk a publié cette semaine DaisyRose-27B, son premier modèle à poids ouverts, distribué sous licence Apache 2.0 comme remplaçant direct de sa base, Qwen3.8-27B. Ce modèle de code agentique, doté de 27,8 milliards de paramètres denses et d'une fenêtre de contexte de 262 144 jetons, a été post-entraîné uniquement par apprentissage par renforcement, sans réglage supervisé ni distillation. Son score le plus spectaculaire est sur Terminal Bench 4.1 (pass@1), qui passe de 5,6 à 12,0. Il progresse aussi sur DeepSWE v1.1 (46,2 contre 42,2), SWE Bench Pro v2 (94,7 contre 91,3), Terminal Bench 2.1 (75,5 contre 73,0), IFBench (82,4 contre 79,5), GPQA Diamond (90,7 contre 89,2) et HLE en texte seul (34,3 contre 33,9). Ces chiffres sont publiés par RadixArk lui-même et correspondent au meilleur résultat entre les exécutions en BF16 et en FP8. L'architecture reste celle de la base : 64 couches alternant trois couches d'attention linéaire Gated DeltaNet et une couche d'attention complète, un encodeur de vision de 27 couches et une couche de prédiction multi-jetons pour le décodage spéculatif.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'entraînement a mobilisé 144 GPU H200 pendant 18 jours, soit environ 63 000 heures-GPU, dont 128 GPU dédiés à l'inférence des agents et 16 à l'apprentissage, en mode entièrement asynchrone. RadixArk s'est appuyé sur environ 1 200 tâches sélectionnées avec Eigent AI parmi des milliers de candidates, chacune ciblant une faiblesse précise du modèle de base. Chaque tentative en bac à sable pouvait durer 1,5 heure, avec plus de 100 appels d'outils et plus de 256 000 jetons de sortie. Son framework open source Miles atteint 37 % de MFU contre 16 % pour un entraîneur open source basé sur Megatron, avec un débit de bout en bout de 16,8 k jetons par seconde contre 8,3 k. L'entreprise affirme avoir ainsi réduit le temps GPU de 57 %. Environ 944 000 bacs à sable ont été créés via AgentENV entre la mi-septembre et la mi-novembre, avec un pic de 1 566 sessions simultanées et 99 % de réussite à la création.
L'intérêt pratique tient à l'accessibilité. Le modèle tient sur un seul GPU : environ 52 Go en BF16, 29 Go en FP8 et 23 Go en NVFP4 (réservé à Blackwell), avec des cibles allant du H200 au RTX 5090 et au DGX Spark, ainsi qu'une version GGUF. Une équipe peut donc obtenir un net gain en agents de terminal sans changer d'infrastructure. Les limites restent claires : le modèle ne gagne que sur IFBench parmi les neuf modèles comparés. MiMo V2.6 Flash (309 milliards de paramètres au total) mène Terminal Bench 4.1 avec 16,1, et Inkling 2 Small (594 milliards) domine DeepSWE avec 72,1 et HLE avec 44,1. Les progrès en connaissances sont faibles, à +0,4 sur HLE et +1,5 sur GPQA Diamond.
Ce lancement s'inscrit dans la tendance qui consiste à améliorer des modèles de taille moyenne par apprentissage par renforcement en environnement réel, plutôt que par distillation de modèles plus gros. RadixArk met en avant l'ensemble de sa chaîne, du framework Miles à l'infrastructure de bacs à sable AgentENV, dont le coût serait inférieur d'environ 80 % à celui des fournisseurs cloud populaires. Les enjeux se jouent désormais autant sur l'efficacité de l'entraînement que sur la taille des modèles, face à des architectures MoE bien plus grandes. Reste à voir si des évaluations indépendantes confirmeront ces résultats auto-déclarés, et si la méthode, appliquée à d'autres bases, permettra de réduire l'écart avec les très grands modèles sur les tâches agentiques les plus difficiles.