Thinking Machines lance Inkling, un modèle de 975 milliards de paramètres qui devance les labos américains mais reste derrière la Chine

Thinking Machines Lab lance Inkling, un modèle multimodal MoE open-weights de 975 milliards de paramètres (41 milliards actifs) à effort de raisonnement ajustable

Thinking Machines Lab vient de publier Inkling, son premier modèle entraîné entièrement en interne, avec des poids ouverts et un réglage fin possible via sa plateforme Tinker. Il s'agit d'un transformeur à mélange d'experts (MoE) comptant 975 milliards de paramètres au total, dont 41 milliards actifs, doté d'une fenêtre de contexte pouvant atteindre 1 million de tokens. Le préentraînement a porté sur 45 000 milliards de tokens mêlant texte, images, audio et vidéo ; le modèle accepte du texte, des images et de l'audio en entrée, mais ne produit que du texte en sortie. Le laboratoire a également dévoilé Inkling Small, une version de 276 milliards de paramètres avec 12 milliards actifs, qui égale voire dépasse son grand frère sur de nombreux benchmarks ; ses poids seront publiés une fois les tests terminés. L'architecture, proche de celle de DeepSeek V3, comprend 66 couches de décodeur avec 256 experts routés et 2 experts partagés par couche MoE, six experts routés s'activant par token via un routeur à base de sigmoïde. Le modèle alterne couches d'attention locale et globale selon un ratio de 5 pour 1, utilise un encodage positionnel relatif plutôt que RoPE, et a été entraîné avec l'optimiseur Muon sur des systèmes NVIDIA GB300 NVL72, avec un post-entraînement basé sur du SFT synthétique (notamment généré par Kimi K2.5) suivi d'un apprentissage par renforcement asynchrone dépassant 30 millions de déploiements. L'innovation la plus notable concerne le contrôle de l'effort de raisonnement : durant l'entraînement RL, l'équipe a fait varier le budget de tokens alloué au modèle en ajustant le message système et le coût par token, si bien qu'Inkling a appris à moduler lui-même sa profondeur de réflexion selon la tâche. Ce curseur, réglable de 0,2 à 0,99, est directement exposé via un paramètre reasoning_effort dans la bibliothèque transformers, ce qui permet aux développeurs d'ajuster coût et latence à la demande plutôt que de choisir entre plusieurs modèles figés. Concrètement, Inkling consomme trois fois moins de tokens que Nemotron 3 Ultra pour une performance équivalente sur Terminal Bench 2.1, un gain d'efficacité qui pourrait peser lourd pour les entreprises déployant des agents à grande échelle. Sur les benchmarks, évalués à effort maximal (0,99), Inkling se montre compétitif face à des modèles ouverts comme Kimi K2.6, GLM 5.2 ou DeepSeek V4 Pro, dominant notamment le test d'adversarialité FORTRESS avec 78 %, mais accusant un retard de près de 19 points sur GLM 5.2 en Terminal Bench 2.1. Il affiche aussi 73,5 % sur MMMU Pro et 91,4 % sur VoiceBench. Ce lancement s'inscrit dans la course des laboratoires d'IA à proposer des modèles open-weights toujours plus personnalisables, où Thinking Machines Lab, fondé par d'anciens cadres d'OpenAI, mise sur la finesse de réglage et la maîtrise du coût de calcul comme argument différenciant face aux géants du secteur.

💬 Le vrai coup ici c'est le curseur reasoning_effort, pas la taille du modèle. Thinking Machines Lab remplace le choix entre plusieurs modèles figés par un seul réglage de profondeur de réflexion, ajustable à la volée, et trois fois moins de tokens que Nemotron 3 Ultra pour la même perf sur Terminal Bench, ça pèse lourd sur la facture des boîtes qui font tourner des agents à grande échelle. Reste que sur ce même benchmark il traîne 19 points derrière GLM 5.2, donc l'efficacité ne rattrape pas encore un vrai écart de capacité.

JetBrains lance Mellum2 : un modèle MoE de 12 milliards de paramètres pour les tâches spécialisées dans les pipelines IA multi-modèles

JetBrains a publié Mellum2, un nouveau modèle d'intelligence artificielle open source dont les poids sont disponibles sous licence Apache 2.0. Ce successeur de Mellum, un modèle dense de 4 milliards de paramètres orienté complétion de code, adopte une architecture Mixture-of-Experts (MoE) avec 12 milliards de paramètres au total, dont seulement 2,5 milliards sont activés à chaque token. Le modèle dispose de 64 experts, dont 8 sont sollicités simultanément, ce qui maintient un coût de calcul équivalent à un modèle dense de 2,5B tout en offrant une capacité de spécialisation bien supérieure. Sa fenêtre de contexte atteint 131 072 tokens, étendue après le pré-entraînement grâce à une méthode YaRN sélective par couche. L'entraînement a porté sur environ 10,6 billions de tokens répartis en trois phases progressivement orientées vers du code et des mathématiques, avec l'optimiseur Muon en précision hybride FP8. JetBrains publie six checkpoints couvrant l'ensemble du pipeline : modèle de base, variantes SFT, et modèles affinés par renforcement (RLVR) en versions Instruct et Thinking. Mellum2 ne vise pas à remplacer les modèles frontier comme GPT-4o ou Claude 3.5 Sonnet. JetBrains le positionne explicitement comme un "focal model", une brique rapide et spécialisée destinée à s'intégrer dans des pipelines multi-modèles. La variante Instruct répond directement, sans chaîne de raisonnement externalisée, ce qui la rend adaptée aux tâches à faible latence : appels d'outils, suivi d'instructions, génération de code à la volée. La variante Thinking, elle, produit une trace de raisonnement explicite avant sa réponse finale, utile pour le débogage complexe, la planification multi-étapes ou les flux agentiques. Sur les benchmarks autodéclarés par JetBrains, Mellum2 Instruct obtient 78,4 sur EvalPlus et 66,3 sur BFCL v3 (appels de fonctions), des scores compétitifs face aux modèles open-weight de 4B à 14B paramètres, notamment les Qwen3.5 et Ministral 3. Les résultats en raisonnement mathématique (41,7 sur AIME 2025+2026) et en connaissance générale (78,1 sur MMLU-Redux) restent en retrait par rapport à Qwen3.5 9B, ce qui reflète le choix assumé d'une spécialisation ingénierie logicielle. Ce lancement s'inscrit dans une tendance de fond : les éditeurs d'IDE et d'outils de développement construisent désormais leurs propres modèles plutôt que de dépendre exclusivement des API tierces. JetBrains, dont les produits, IntelliJ, PyCharm, WebStorm, sont utilisés par des millions de développeurs, dispose d'un corpus de code propriétaire et d'une connaissance fine des usages réels qui justifient cet investissement. La mise à disposition sous Apache 2.0 favorise l'adoption communautaire et positionne Mellum2 comme une alternative crédible aux modèles de Microsoft (Phi) ou de Alibaba (Qwen) dans l'écosystème open source. La prochaine étape logique sera l'intégration native dans les IDE JetBrains, transformant ce modèle de recherche en produit distribué à grande échelle.

Tencent lance Hy3, un modèle MoE ouvert de 295 milliards de paramètres (21 milliards actifs) et 256K de contexte

Tencent a présenté Hy3, un nouveau modèle de langage à architecture Mixture-of-Experts (MoE) doté de 295 milliards de paramètres au total, dont seulement 21 milliards sont activés à chaque requête grâce à un système de 192 experts avec routage top-8. Le modèle intègre également une couche de prédiction multi-tokens (MTP) de 3,8 milliards de paramètres, compatible avec vLLM et SGLang pour accélérer le décodage. Hy3 gère un contexte de 256 000 tokens, dispose d'un vocabulaire de 120 832 éléments et repose sur 80 couches en précision BF16, avec une version allégée en FP8 également disponible. Les poids sont publiés sous licence Apache 2.0, rendant le modèle librement réutilisable. Sur le plan des performances, Tencent revendique un score de 78,0 sur SWE-Bench Verified, 57,9 sur SWE-Bench Pro et 90,4 sur GPQA Diamond, ainsi que 90,0 sur IMOAnswerBench. Un test à l'aveugle mené auprès de 270 experts, totalisant 312 comparaisons sur des tâches réelles, a donné à Hy3 un score de 2,67 sur 4, devançant GLM-5.1 crédité de 2,51, notamment sur le développement frontend, les pipelines CI/CD et la gestion de données. Cette publication marque une avancée notable pour les modèles ouverts destinés aux usages professionnels et agentiques. Tencent a concentré une grande partie de ses efforts sur la fiabilité en production, un point souvent négligé par les modèles expérimentaux. Le taux d'hallucination est ainsi passé de 12,5 % à 5,4 % dans les évaluations internes, tandis que les erreurs de bon sens ont chuté de 25,4 % à 12,7 %. Le suivi des intentions sur plusieurs tours de conversation s'est également amélioré, avec un taux d'incidents internes réduit de 17,4 % à 7,9 %, et un score passant de 42,9 % à 75,1 % sur le benchmark de dialogue long MRCR. Ces progrès concernent directement les développeurs qui déploient des agents autonomes pour la programmation ou le traitement de documents longs, un secteur où les erreurs d'appels d'outils et les boucles infinies restent un frein majeur à l'adoption en production. Le modèle s'inscrit dans un contexte de compétition intense entre acteurs chinois et américains sur les modèles ouverts à grande échelle, avec des rivaux comme GLM-5.1 pris comme référence de comparaison directe. Hy3 expose une API compatible OpenAI, déployable via vLLM ou SGLang, avec un paramètre reasoningeffort ajustable entre "nothink", "low" et "high" selon la complexité de la tâche, les développeurs de Tencent recommandant une température de 0,9 et un top_p de 1,0. Le modèle est aussi accessible sans matériel local via OpenRouter, où une route gratuite tencent/hy3:free est proposée, mais cette gratuité doit prendre fin le 21 juillet 2026. Les cas d'usage visés incluent les agents de programmation capables d'ingérer un dépôt entier grâce à la fenêtre de contexte de 256 000 tokens, ainsi que le traitement de documents longs comme des contrats, positionnant Hy3 comme un outil taillé pour les flux de travail professionnels exigeants en fiabilité et en capacité de raisonnement.

Thinking Machines rend Inkling open source, son premier modèle de langage multimodal, axé sur le faible coût et la "résistance à la censure

Thinking Machines, la start-up américaine fondée par Mira Murati, ancienne directrice technique d'OpenAI, a publié son premier grand modèle de langage sous licence open source Apache 2.0, baptisé Inkling. Doté de 975 milliards de paramètres au total, dont 41 milliards actifs grâce à une architecture Mixture-of-Experts, il s'agit d'un système nativement multimodal capable de raisonner sur du texte, des images et de l'audio. Ses poids sont déjà disponibles sur Hugging Face ainsi que sur Tinker, l'API d'entraînement de modèles maison. Sur les benchmarks tiers, Inkling affiche 77,6% sur SWE-bench Verified, devançant le rival américain Nvidia Nemotron 3 (71,9%), et 91,4% sur VoiceBench, proche des 94,4% de Gemini 3.1 Pro en mode raisonnement élevé. Thinking Machines a également dévoilé une version allégée, Inkling-Small, avec 276 milliards de paramètres, pensée pour les usages où la latence et le coût priment. Ce lancement cible directement les entreprises qui veulent déplacer leurs charges d'IA agentique vers des modèles à poids ouverts, personnalisables et exécutables sur leurs propres serveurs ou dans des clouds privés virtuels. Inkling introduit un mécanisme inédit d'"effort de réflexion contrôlable", conçu pour arbitrer finement entre coût et performance, une approche qui tranche avec les stratégies de scaling opaques des modèles propriétaires concurrents. Autre argument commercial fort: Thinking Machines affirme avoir conçu Inkling pour répondre directement sur des sujets susceptibles d'être censurés, une promesse pensée pour séduire les entreprises soucieuses de la fiabilité factuelle de leurs outils, indépendamment du caractère sensible des questions posées. Le modèle arrive toutefois dans un paysage 2026 des modèles ouverts extrêmement disputé, dominé par des architectures MoE très spécialisées, notamment issues des laboratoires chinois. GLM 5.2, considéré comme le meilleur modèle de raisonnement ouvert du marché, surpasse Inkling sur le codage et les tâches complexes, avec 62,1% contre 54,3% sur SWEBench Pro et un écart plus marqué encore sur Terminal Bench 2.1 (82,7 contre 63,8). DeepSeek V4 Pro fait mieux sur SWEBench Verified (80,6% contre 77,6%) et sur la factualité, mais Inkling le devance en mathématiques avec 97,1% sur AIME 2026. Kimi K2.6 domine sur plusieurs tests techniques comme GPQA Diamond, tandis qu'Inkling reste plus performant sur le suivi d'instructions. Face à son concurrent américain direct, Nemotron 3 Ultra, Inkling s'impose de façon constante en raisonnement comme en codage, confirmant sa position de meilleure alternative ouverte made in USA face à la concurrence chinoise.

💬 Inkling, c'est la meilleure alternative ouverte made in USA face à la Chine, mais ça reste une alternative, pas un leader. Face à Nemotron 3, Thinking Machines écrase son rival maison sans discussion. Face à GLM 5.2 ou DeepSeek V4 Pro, l'écart sur le code reste net, et l'argument de la "résistance à la censure" sonne surtout comme un pitch commercial pour les boîtes qui se méfient des modèles chinois.