Thinking Machines lance Inkling, un modèle de 975 milliards de paramètres qui devance les labos américains mais reste derrière la Chine

Thinking Machines Lab lance Inkling, un modèle multimodal MoE open-weights de 975 milliards de paramètres (41 milliards actifs) à effort de raisonnement ajustable

Thinking Machines Lab vient de publier Inkling, son premier modèle entraîné entièrement en interne, avec des poids ouverts et un réglage fin possible via sa plateforme Tinker. Il s'agit d'un transformeur à mélange d'experts (MoE) comptant 975 milliards de paramètres au total, dont 41 milliards actifs, doté d'une fenêtre de contexte pouvant atteindre 1 million de tokens. Le préentraînement a porté sur 45 000 milliards de tokens mêlant texte, images, audio et vidéo ; le modèle accepte du texte, des images et de l'audio en entrée, mais ne produit que du texte en sortie. Le laboratoire a également dévoilé Inkling Small, une version de 276 milliards de paramètres avec 12 milliards actifs, qui égale voire dépasse son grand frère sur de nombreux benchmarks ; ses poids seront publiés une fois les tests terminés. L'architecture, proche de celle de DeepSeek V3, comprend 66 couches de décodeur avec 256 experts routés et 2 experts partagés par couche MoE, six experts routés s'activant par token via un routeur à base de sigmoïde. Le modèle alterne couches d'attention locale et globale selon un ratio de 5 pour 1, utilise un encodage positionnel relatif plutôt que RoPE, et a été entraîné avec l'optimiseur Muon sur des systèmes NVIDIA GB300 NVL72, avec un post-entraînement basé sur du SFT synthétique (notamment généré par Kimi K2.5) suivi d'un apprentissage par renforcement asynchrone dépassant 30 millions de déploiements. L'innovation la plus notable concerne le contrôle de l'effort de raisonnement : durant l'entraînement RL, l'équipe a fait varier le budget de tokens alloué au modèle en ajustant le message système et le coût par token, si bien qu'Inkling a appris à moduler lui-même sa profondeur de réflexion selon la tâche. Ce curseur, réglable de 0,2 à 0,99, est directement exposé via un paramètre reasoning_effort dans la bibliothèque transformers, ce qui permet aux développeurs d'ajuster coût et latence à la demande plutôt que de choisir entre plusieurs modèles figés. Concrètement, Inkling consomme trois fois moins de tokens que Nemotron 3 Ultra pour une performance équivalente sur Terminal Bench 2.1, un gain d'efficacité qui pourrait peser lourd pour les entreprises déployant des agents à grande échelle. Sur les benchmarks, évalués à effort maximal (0,99), Inkling se montre compétitif face à des modèles ouverts comme Kimi K2.6, GLM 5.2 ou DeepSeek V4 Pro, dominant notamment le test d'adversarialité FORTRESS avec 78 %, mais accusant un retard de près de 19 points sur GLM 5.2 en Terminal Bench 2.1. Il affiche aussi 73,5 % sur MMMU Pro et 91,4 % sur VoiceBench. Ce lancement s'inscrit dans la course des laboratoires d'IA à proposer des modèles open-weights toujours plus personnalisables, où Thinking Machines Lab, fondé par d'anciens cadres d'OpenAI, mise sur la finesse de réglage et la maîtrise du coût de calcul comme argument différenciant face aux géants du secteur.

💬 Le vrai coup ici c'est le curseur reasoning_effort, pas la taille du modèle. Thinking Machines Lab remplace le choix entre plusieurs modèles figés par un seul réglage de profondeur de réflexion, ajustable à la volée, et trois fois moins de tokens que Nemotron 3 Ultra pour la même perf sur Terminal Bench, ça pèse lourd sur la facture des boîtes qui font tourner des agents à grande échelle. Reste que sur ce même benchmark il traîne 19 points derrière GLM 5.2, donc l'efficacité ne rattrape pas encore un vrai écart de capacité.

Thinking Machines Lab Inkling : le modèle ouvert pour rebattre les cartes de l’IA ?

Thinking Machines Lab, la société fondée par Mira Murati, a publié le 15 juillet 2026 son premier modèle d'intelligence artificielle, baptisé Inkling. Ce grand modèle de langage repose sur une architecture Mixture-of-Experts totalisant 975 milliards de paramètres, dont seulement 41 milliards sont activés pour chaque token traité, un choix qui optimise les ressources de calcul sans sacrifier les performances. Les poids du modèle sont distribués sous licence Apache 2.0 et disponibles sur Hugging Face. Inkling se distingue par une fenêtre de contexte d'un million de tokens, capable d'absorber des bases documentaires volumineuses ou des projets de développement complexes. Son architecture d'attention combine des couches locales et globales selon un ratio de cinq pour un, et utilise un codage de position relatif plutôt que la méthode RoPE employée par la plupart des concurrents. Le modèle est également multimodal : il traite des images d'une résolution allant de 40 à 4096 pixels ainsi que des fichiers audio au format WAV. Contrairement aux chatbots grand public, Inkling vise avant tout les entreprises, les laboratoires de recherche et les équipes d'ingénierie. En ouvrant les poids du modèle, Thinking Machines Lab permet à ses clients de le déployer, de l'adapter à leurs propres données et de construire des applications ou des assistants métiers sur mesure, sans dépendre d'une API externe ni être enfermés dans un écosystème propriétaire. Cette approche permet aussi aux organisations de mieux maîtriser leurs coûts d'exploitation et leur infrastructure. Le modèle n'est toutefois pas open source au sens strict : les données d'entraînement utilisées pour le construire ne sont pas publiées, seule l'architecture et les poids le sont. Cette nuance illustre une tendance plus large du secteur, où des entreprises revendiquent une ouverture partielle tout en gardant la main sur les éléments les plus sensibles de leurs modèles. L'arrivée d'Inkling s'inscrit dans un marché de l'intelligence artificielle de plus en plus disputé entre modèles propriétaires, comme ceux d'OpenAI, Google ou Anthropic, et modèles à poids ouverts. Thinking Machines Lab, fondée par une ancienne dirigeante d'OpenAI, cherche ainsi à se positionner comme une alternative crédible face aux acteurs dominants, en misant sur la flexibilité et le contrôle offerts aux entreprises plutôt que sur une interface grand public. La taille du modèle, avec près de mille milliards de paramètres, et sa fenêtre de contexte étendue, le rapprochent des standards les plus avancés du secteur. Reste à savoir comment la communauté des développeurs va s'emparer de cet outil, et si Thinking Machines Lab publiera d'autres modèles ou services pour construire un écosystème autour d'Inkling.

💬 Inkling coche les cases qui comptent pour une boîte : poids ouverts sous Apache 2.0, un million de tokens de contexte, et seulement 41 milliards de paramètres actifs sur 975 milliards pour ne pas cramer le budget GPU. Bon, appeler ça open source, c'est un peu du flan, les données d'entraînement restent planquées, donc tu hérites de l'architecture, pas de la recette. Le vrai coup de Thinking Machines Lab, c'est de vendre aux entreprises le contrôle de leur infra plutôt qu'un chatbot de plus, et face à des géants qui verrouillent tout dans leur API, ce pari-là peut vraiment rebattre les cartes.

Thinking Machines Lab publie Inkling-Small, un modèle multimodal MoE en open weights (276 milliards de paramètres, 12 milliards actifs)

Thinking Machines Lab a publié Inkling-Small, un modèle à poids ouverts de type Mixture-of-Experts comptant 276 milliards de paramètres au total, dont 12 milliards actifs, soit environ un quart de la taille de son grand frère Inkling (975 milliards au total, 41 milliards actifs). Entraîné sur des systèmes NVIDIA GB300 NVL72, il raisonne nativement sur du texte, des images et de l'audio, avec une fenêtre de contexte atteignant 1 million de tokens et un effort de réflexion ajustable. Les poids sont diffusés sous licence Apache 2.0 sur Hugging Face. Le point clé est sa déployabilité grâce à la version quantifiée : la version BF16 nécessite au moins 600 Go de VRAM cumulée, soit 4 GPU NVIDIA B300 ou 8 H200, tandis que la version NVFP4 abaisse ce seuil à 180 Go, permettant un fonctionnement W4A4 sur un seul B300 (nécessitant une architecture SM100 ou supérieure) ou W4A16 sur deux H200. Les runtimes compatibles incluent SGLang, vLLM, TokenSpeed, Unsloth et Hugging Face. Sur le plan architectural, il s'agit d'un transformeur décodeur de 42 couches avec un réseau MoE clairsemé : chaque token active 6 des 256 experts disponibles, plus 2 experts partagés systématiquement sollicités, combinés à une attention hybride locale et globale. Ce passage à une exécution sur un seul GPU fait sortir un modèle de 276 milliards de paramètres du cercle réservé aux laboratoires de pointe. Des startups peuvent l'héberger sur une seule instance B300 louée, tandis que des entreprises de taille moyenne disposant déjà de H200 peuvent le servir sans nouvel investissement matériel. Cela ouvre une option de poids privés pour les secteurs réglementés comme la finance, la santé, l'assurance, les télécoms et le secteur public, avec des usages allant des agents de codage et de l'automatisation en terminal à la compréhension de documents et de graphiques, jusqu'à l'analyse de centres d'appels et la synthèse de réunions. Inkling-Small a commencé son entraînement après le modèle plus grand, ce qui a permis à l'équipe de revoir le mélange de données de pré-entraînement. Il a ensuite été post-entraîné à partir d'une version préliminaire, en partie via une distillation avec Inkling comme professeur, suivie de deux semaines supplémentaires d'apprentissage par renforcement orienté codage agentique. Résultat, il dépasse son propre professeur sur plusieurs benchmarks de raisonnement : 31,6% contre 29,7% sur Humanity's Last Exam, 80,2% contre 77,6% sur SWE-bench Verified, ou encore 40,1% contre 36,5% sur ARC-AGI-2. Il recule en revanche nettement sur la précision factuelle, avec un score SimpleQA Verified de 20,6% contre 43,9% pour Inkling. Sur la sécurité, il atteint 98,4% sur StrongREJECT, et Thinking Machines Lab estime que le modèle ne présente pas de risque supplémentaire par rapport à l'écosystème existant, tout en recommandant l'ajout de garde-fous comme Llama Guard côté déploiement.

💬 Ce qui compte ici, c'est pas la taille du modèle, c'est qu'il tienne sur un seul GPU en NVFP4 : ça fait sortir un 276 milliards de paramètres du cercle fermé des labos de pointe, et ça ouvre une vraie option de poids privés pour la banque ou la santé, sans dépendre d'une API externe. Bon, sur le papier il dépasse même son grand frère sur le raisonnement et le code. Mais la précision factuelle s'effondre, 20% contre 44% pour Inkling, donc sur tout ce qui touche aux faits vérifiés, méfiance.

JetBrains lance Mellum2 : un modèle MoE de 12 milliards de paramètres pour les tâches spécialisées dans les pipelines IA multi-modèles

JetBrains a publié Mellum2, un nouveau modèle d'intelligence artificielle open source dont les poids sont disponibles sous licence Apache 2.0. Ce successeur de Mellum, un modèle dense de 4 milliards de paramètres orienté complétion de code, adopte une architecture Mixture-of-Experts (MoE) avec 12 milliards de paramètres au total, dont seulement 2,5 milliards sont activés à chaque token. Le modèle dispose de 64 experts, dont 8 sont sollicités simultanément, ce qui maintient un coût de calcul équivalent à un modèle dense de 2,5B tout en offrant une capacité de spécialisation bien supérieure. Sa fenêtre de contexte atteint 131 072 tokens, étendue après le pré-entraînement grâce à une méthode YaRN sélective par couche. L'entraînement a porté sur environ 10,6 billions de tokens répartis en trois phases progressivement orientées vers du code et des mathématiques, avec l'optimiseur Muon en précision hybride FP8. JetBrains publie six checkpoints couvrant l'ensemble du pipeline : modèle de base, variantes SFT, et modèles affinés par renforcement (RLVR) en versions Instruct et Thinking. Mellum2 ne vise pas à remplacer les modèles frontier comme GPT-4o ou Claude 3.5 Sonnet. JetBrains le positionne explicitement comme un "focal model", une brique rapide et spécialisée destinée à s'intégrer dans des pipelines multi-modèles. La variante Instruct répond directement, sans chaîne de raisonnement externalisée, ce qui la rend adaptée aux tâches à faible latence : appels d'outils, suivi d'instructions, génération de code à la volée. La variante Thinking, elle, produit une trace de raisonnement explicite avant sa réponse finale, utile pour le débogage complexe, la planification multi-étapes ou les flux agentiques. Sur les benchmarks autodéclarés par JetBrains, Mellum2 Instruct obtient 78,4 sur EvalPlus et 66,3 sur BFCL v3 (appels de fonctions), des scores compétitifs face aux modèles open-weight de 4B à 14B paramètres, notamment les Qwen3.5 et Ministral 3. Les résultats en raisonnement mathématique (41,7 sur AIME 2025+2026) et en connaissance générale (78,1 sur MMLU-Redux) restent en retrait par rapport à Qwen3.5 9B, ce qui reflète le choix assumé d'une spécialisation ingénierie logicielle. Ce lancement s'inscrit dans une tendance de fond : les éditeurs d'IDE et d'outils de développement construisent désormais leurs propres modèles plutôt que de dépendre exclusivement des API tierces. JetBrains, dont les produits, IntelliJ, PyCharm, WebStorm, sont utilisés par des millions de développeurs, dispose d'un corpus de code propriétaire et d'une connaissance fine des usages réels qui justifient cet investissement. La mise à disposition sous Apache 2.0 favorise l'adoption communautaire et positionne Mellum2 comme une alternative crédible aux modèles de Microsoft (Phi) ou de Alibaba (Qwen) dans l'écosystème open source. La prochaine étape logique sera l'intégration native dans les IDE JetBrains, transformant ce modèle de recherche en produit distribué à grande échelle.