Thinking Machines Lab lance Inkling, un modèle multimodal MoE open-weights de 975 milliards de paramètres (41 milliards actifs) à effort de raisonnement ajustable

Thinking Machines Lab vient de publier Inkling, son premier modèle entraîné entièrement en interne, avec des poids ouverts et un réglage fin possible via sa plateforme Tinker. Il s'agit d'un transformeur à mélange d'experts (MoE) comptant 975 milliards de paramètres au total, dont 41 milliards actifs, doté d'une fenêtre de contexte pouvant atteindre 1 million de tokens. Le préentraînement a porté sur 45 000 milliards de tokens mêlant texte, images, audio et vidéo ; le modèle accepte du texte, des images et de l'audio en entrée, mais ne produit que du texte en sortie. Le laboratoire a également dévoilé Inkling Small, une version de 276 milliards de paramètres avec 12 milliards actifs, qui égale voire dépasse son grand frère sur de nombreux benchmarks ; ses poids seront publiés une fois les tests terminés. L'architecture, proche de celle de DeepSeek V3, comprend 66 couches de décodeur avec 256 experts routés et 2 experts partagés par couche MoE, six experts routés s'activant par token via un routeur à base de sigmoïde. Le modèle alterne couches d'attention locale et globale selon un ratio de 5 pour 1, utilise un encodage positionnel relatif plutôt que RoPE, et a été entraîné avec l'optimiseur Muon sur des systèmes NVIDIA GB300 NVL72, avec un post-entraînement basé sur du SFT synthétique (notamment généré par Kimi K2.5) suivi d'un apprentissage par renforcement asynchrone dépassant 30 millions de déploiements.

L'innovation la plus notable concerne le contrôle de l'effort de raisonnement : durant l'entraînement RL, l'équipe a fait varier le budget de tokens alloué au modèle en ajustant le message système et le coût par token, si bien qu'Inkling a appris à moduler lui-même sa profondeur de réflexion selon la tâche. Ce curseur, réglable de 0,2 à 0,99, est directement exposé via un paramètre reasoning_effort dans la bibliothèque transformers, ce qui permet aux développeurs d'ajuster coût et latence à la demande plutôt que de choisir entre plusieurs modèles figés. Concrètement, Inkling consomme trois fois moins de tokens que Nemotron 3 Ultra pour une performance équivalente sur Terminal Bench 2.1, un gain d'efficacité qui pourrait peser lourd pour les entreprises déployant des agents à grande échelle.

Sur les benchmarks, évalués à effort maximal (0,99), Inkling se montre compétitif face à des modèles ouverts comme Kimi K2.6, GLM 5.2 ou DeepSeek V4 Pro, dominant notamment le test d'adversarialité FORTRESS avec 78 %, mais accusant un retard de près de 19 points sur GLM 5.2 en Terminal Bench 2.1. Il affiche aussi 73,5 % sur MMMU Pro et 91,4 % sur VoiceBench. Ce lancement s'inscrit dans la course des laboratoires d'IA à proposer des modèles open-weights toujours plus personnalisables, où Thinking Machines Lab, fondé par d'anciens cadres d'OpenAI, mise sur la finesse de réglage et la maîtrise du coût de calcul comme argument différenciant face aux géants du secteur.