Thinking Machines présente Inkling 2 Mini : un MoE bouclé de 26 milliards de paramètres qui tourne sur un Mac de 32 Go
Thinking Machines Lab a publié Inkling 2 Mini, un modèle à poids ouverts de 26,4 milliards de paramètres au total, sous licence Apache 2.0 sur Hugging Face. Il s'agit d'un transformeur « bouclé » à mélange d'experts : ses couches centrales sont réutilisées trois fois par token au lieu d'ajouter des poids. Sur ses 24 couches, réparties en quatre blocs de six, les premier et dernier blocs s'exécutent une fois, tandis que les deux blocs centraux tournent trois fois avec des poids partagés, soit 48 applications de couches par token. Le modèle compte 3,4 milliards de paramètres actifs (5,4 milliards effectifs avec les boucles), 128 experts dont 8 sollicités par token, et un contexte allant jusqu'à 1 million de tokens. Il accepte texte et images, et produit du texte. Le checkpoint pèse environ 20 Go. Selon les chiffres publiés par Thinking Machines, il atteint 79,2 % sur SWE-bench Verified (bash uniquement), 77,9 % sur SWE-bench Pro v2 (Hard), 48,2 % sur DeepSWE v1.1, 71,6 % sur Terminal Bench v2.1, 79,0 % sur BrowseComp, 82,7 % sur MCP Atlas, 92,8 % sur OmniDocBench v1.6 et 86,6 % sur GPQA Diamond. Ses points faibles sont le rappel de connaissances (15,2 % sur HLE-Diamond) et le suivi d'instructions multi-tours (50,0 % sur MultiChallenge).
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'intérêt tient d'abord au matériel nécessaire. Avec 20 Go de poids, le modèle tourne sur un Mac Apple silicon doté d'au moins 32 Go de mémoire, sur un NVIDIA DGX Spark ou sur un GPU de 32 Go de VRAM, avec des versions GGUF via Unsloth et llama.cpp, et un support de Transformers, vLLM, SGLang, Ollama, NVIDIA Dynamo et TokenSpeed. Pour les développeurs, cela ouvre une option locale crédible pour le codage agentique, l'appel d'outils et le traitement de documents, sans dépendre d'une API. Sur la métrique Intelligence per Watt de Stanford, Thinking Machines annonce 0,703 sur DGX Spark, contre 0,430 pour Qwen3.6-35B-A3B et 0,159 pour Gemma-4-26B-A4B. Le modèle obtient 20,1 à l'indice Artificial Analysis, à égalité avec Qwen3.8-27B. Face à ce dernier, il le devance sur DeepSWE (48,2 % contre 42,2 %) mais reste légèrement derrière sur Terminal Bench (71,6 % contre 73,0 %) et sur GPQA Diamond (86,6 % contre 89,2 %). Ces scores sont déclarés par l'éditeur, et les protocoles d'évaluation diffèrent d'un fabricant à l'autre : les écarts sont donc indicatifs. Un hébergement et du fine-tuning sont proposés via Tinker, dont les tarifs pour Mini ne sont pas communiqués.
Ce lancement suit celui d'Inkling 2 Small, un modèle de 594 milliards de paramètres sorti le 5 novembre, et s'appuie sur un choix d'architecture documenté. Boucler les couches centrales a procuré un gain équivalent en calcul de 1,51x à 1,91x, contre 1,24x à 1,36x pour les dernières couches, et la variante centrale l'a emporté dans 27 évaluations sur 28. Le coût se reporte sur l'entraînement : une base non bouclée aurait demandé 7,5 % de calcul d'entraînement en moins, mais 140 % de calcul d'inférence en plus pour égaler la perte du modèle bouclé sur des traces agentiques de 512 000 tokens. L'entraînement a démarré avec 384 experts par couche, réduits à 128 en cours de route, puis le modèle a été « soigné » par une distillation d'un trillion de tokens à partir d'un modèle Inkling interne plus grand. La post-formation a combiné fine-tuning supervisé, apprentissage par renforcement sur 2,2 billions de tokens en 2 000 étapes et distillation sur politique. Les couches d'experts sont entraînées et déployées en NVFP4, les quatre dernières en MXFP8, ce qui supprime la perte liée à la conversion de quantification. Face à Qwen et Gemma, également sous Apache 2.0, Thinking Machines mise sur l'efficacité par watt et sur l'exécution locale. Une variante de recherche, TML-d24-varloop-research, explore des boucles de 1 à 5 passes, ce qui laisse entrevoir des modèles à profondeur variable.
Un modèle Apache 2.0 exécutable en local sur un Mac de 32 Go permet aux entreprises et développeurs européens de traiter leurs données sans API externe, ce qui facilite la conformité RGPD.