GLM-5.2 : meilleur modèle de codage frontend au monde, IndexShare pour le décodage spéculatif

Les modèles open source Gemma 4 de Google utilisent le décodage spéculatif pour atteindre jusqu'à 3x plus de rapidité

Google a lancé ce printemps sa nouvelle gamme de modèles d'IA ouverts, Gemma 4, conçus pour fonctionner en local sur le matériel des utilisateurs. Quelques semaines seulement après ce lancement, l'entreprise publie des modèles auxiliaires appelés "MTP drafters" (drafters à prédiction multi-token), exploitant une technique connue sous le nom de décodage spéculatif. Le principe : ces modèles légers anticipent les prochains tokens avant que le modèle principal ne les génère, ce qui peut accélérer la vitesse de génération jusqu'à trois fois par rapport à une inférence classique. Gemma 4 repose sur la même architecture de base que Gemini, le modèle frontier de Google, mais est optimisé pour tourner sur une seule machine, y compris sur un GPU grand public avec quantification. L'enjeu est considérable pour quiconque veut utiliser des modèles puissants sans dépendre d'un service cloud. En local, les contraintes matérielles sont sévères : bande passante mémoire limitée, absence de clusters de TPUs comme ceux dont dispose Google en interne. Le décodage spéculatif contourne en partie ces goulots d'étranglement en parallélisant une partie du travail d'inférence. Pour les développeurs et chercheurs qui font tourner des modèles sur leur propre infrastructure, un gain de 3x sur la vitesse de génération représente une différence très concrète en termes de productivité et de coût opérationnel. Google a également profité du lancement de Gemma 4 pour changer de licence : exit la licence Gemma propriétaire des versions précédentes, place à l'Apache 2.0, bien plus permissive et appréciée de l'écosystème open source. Ce choix positionne Gemma 4 comme un concurrent direct de Llama de Meta ou des modèles Mistral, dans une course où la liberté d'usage est devenue un argument de poids. Les MTP drafters sont encore présentés comme expérimentaux, mais ils signalent clairement la direction que prend Google : rendre ses modèles ouverts non seulement plus capables, mais aussi plus rapides à exploiter sur du matériel ordinaire.

💬 Le décodage spéculatif, ça fait des années qu'on en parle en labo, mais là Google le rend pratique sur un GPU grand public. Le vrai truc de cette annonce, c'est quand même le passage à Apache 2.0, les anciennes licences Gemma c'était de l'open source du dimanche. Reste à voir si le x3 tient en prod réelle, parce que les benchmarks Google ont une tendance connue à se dégonfler un peu.

GLM-5.2 de Zhipu AI rivalise avec les meilleurs modeles propriétaires sur les benchmarks de codage

Le laboratoire chinois Zhipu AI a publié GLM-5.2, un nouveau modèle de langage open source distribué sous licence MIT. Le modèle supporte une fenêtre de contexte stable d'un million de tokens, ce qui lui permet de traiter des projets logiciels entiers en une seule session. Sur le benchmark FrontierSWE, conçu pour évaluer les performances sur des tâches de programmation longues de plusieurs heures, GLM-5.2 n'affiche qu'un point de pourcentage de retard sur Claude Opus 4.8 d'Anthropic, l'un des modèles fermés les plus performants du moment dans cette catégorie. C'est un résultat significatif pour l'écosystème open source : un modèle librement accessible et modifiable parvient à rivaliser avec les systèmes propriétaires sur des tâches de développement logiciel complexes et de longue durée. Pour les entreprises et développeurs indépendants, cela signifie un accès à des capacités de codage avancées sans dépendance à des API payantes ni contraintes de confidentialité des données. Le fait que GLM-5.2 soit sous licence MIT le rend également librement utilisable dans des produits commerciaux. Les limites restent réelles : en raisonnement général, GLM-5.2 accuse encore un retard notable face aux modèles fermés comme GPT-4o ou Claude Opus. Zhipu AI s'inscrit dans une vague de laboratoires chinois, aux côtés de DeepSeek, Qwen ou Baichuan, qui rattrapent progressivement les leaders occidentaux sur des domaines ciblés. L'enjeu est désormais de savoir si cette convergence sur le code va s'étendre aux capacités cognitives plus larges, et à quel rythme.

Kimi K3 face à DeepSeek V4 Pro et GLM-5.2 : comparatif des modèles MoE open source à mille milliards de paramètres

Trois laboratoires chinois dominent désormais le classement des modèles à poids ouverts. Kimi K3, développé par Moonshot AI et lancé le 16 juillet 2026, DeepSeek V4 Pro, sorti le 24 avril 2026, et GLM-5.2 de Zhipu AI, disponible depuis le 13 juin 2026, sont tous des modèles de type Mixture-of-Experts (MoE) dotés d'une fenêtre de contexte d'un million de tokens et pensés pour le codage et les tâches d'agents sur de longues durées. Kimi K3 est le plus massif avec 2,8 billions de paramètres au total, activant 16 experts sur 896 à chaque requête, et intègre nativement la vision ainsi qu'un raisonnement permanent. DeepSeek V4 Pro compte 1,6 billion de paramètres, dont 49 milliards actifs, répartis sur 384 experts routés plus un expert partagé. GLM-5.2, plus modeste avec 744 milliards de paramètres et environ 40 milliards actifs, propose des modes de raisonnement High et Max. Sur l'indice neutre Artificial Analysis Intelligence Index, Kimi K3 obtient un score d'environ 57, se classant troisième mondial derrière Claude Fable 5 et GPT-5.6 Sol, contre 51 pour GLM-5.2 et 44 pour DeepSeek V4 Pro. Sur les benchmarks de codage testés par Moonshot, K3 devance nettement GLM-5.2, notamment sur SWE Marathon (42,0 contre 13,0) et FrontierSWE (81,2 contre 67,3), tandis que DeepSeek V4 Pro Max revendique 80,6% sur SWE-bench Verified, un résultat record pour un modèle ouvert. Ces écarts de performance comptent d'autant plus que les trois modèles ne jouent pas dans la même catégorie sur le plan commercial. DeepSeek V4 Pro et GLM-5.2 sont publiés sous licence MIT, avec leurs poids déjà disponibles sur Hugging Face, ce qui autorise un usage commercial, un fine-tuning et un auto-hébergement sans restriction dès aujourd'hui. Kimi K3, en revanche, reste pour l'instant accessible uniquement via API ou applications Kimi, Moonshot ayant promis la publication des poids pour le 27 juillet 2026 sous une licence MIT modifiée n'imposant une clause d'attribution qu'au-delà de 100 millions d'utilisateurs mensuels actifs. Côté coûts, les tarifs API divergent fortement: Kimi K3 facture 3 dollars par million de tokens en entrée et 15 en sortie, contre seulement 0,435 et 0,87 dollar pour DeepSeek V4 Pro, et 1,40 dollar en entrée pour GLM-5.2, un écart qui pèsera lourd pour les équipes déployant ces modèles à grande échelle. Cette compétition illustre l'accélération de la course chinoise aux modèles ouverts de très grande taille, portée par Moonshot AI, DeepSeek et Zhipu AI qui rivalisent désormais avec les meilleurs modèles propriétaires occidentaux. GLM-5.2 occupait la première place des modèles ouverts avant l'arrivée de K3, signe d'un rythme de sortie très soutenu. Pour les équipes IA qui doivent choisir un modèle à héberger ou interroger via API, l'arbitrage se joue désormais autant sur les performances brutes que sur les conditions de licence et le coût réel de service, avec la publication imminente des poids de K3 comme prochaine étape à surveiller.

💬 Kimi K3 décroche la troisième place mondiale, un poids lourd chinois qui rivalise enfin avec les modèles fermés occidentaux. Mais sur le terrain, c'est DeepSeek V4 Pro qui gagne : licence MIT, poids déjà sur Hugging Face, et un tarif API sept fois moins cher que celui de K3. Le classement des benchmarks ne dit rien du coût réel de déploiement, et c'est justement là que se joue la vraie bataille entre ces modèles ouverts chinois.

NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B

Des chercheurs de NVIDIA ont publié une étude intégrée à NeMo RL v0.6.0 qui accélère significativement la phase d'entraînement par renforcement des grands modèles de langage grâce au décodage spéculatif. Le principe repose sur un petit modèle dit "brouillon" qui propose plusieurs tokens en avance, tandis que le modèle principal, celui qu'on entraîne réellement, les vérifie via un mécanisme de rejet statistique. Sur 32 GPU GB200 (8 nœuds NVL72), cette approche réduit la latence de génération de 100 secondes à 56,6 secondes sur la tâche RL-Zero, soit un gain de 1,8× sur la génération. À l'échelle d'un modèle de 235 milliards de paramètres, les projections donnent un gain de bout en bout de 2,5×. Le framework EAGLE-3 est utilisé comme moteur de brouillon, compatible avec n'importe quel modèle pré-entraîné sans nécessiter de tête de prédiction multi-token native. Ce résultat est particulièrement précieux parce qu'il ne sacrifie rien à la fidélité d'entraînement. La génération par rollout représente entre 65 et 72 % du temps total d'une étape RL, mesure faite sur Qwen3-8B dans deux configurations, RL-Think et RL-Zero. C'est donc le seul goulet d'étranglement qui vaille la peine d'être attaqué. Or les méthodes habituelles d'accélération, exécution asynchrone, replay hors-politique, précision réduite, introduisent toutes un décalage de distribution qui contamine le signal d'entraînement. Le décodage spéculatif, lui, garantit mathématiquement que la distribution de sortie du modèle cible reste identique à ce qu'elle aurait été sans brouillon. Aucune correction hors-politique, aucun biais introduit dans la récompense. L'intégration dans une boucle d'entraînement par renforcement posait néanmoins un défi d'ingénierie non trivial : à chaque mise à jour des poids de la politique, le modèle brouillon doit rester aligné avec cette politique en évolution. NVIDIA a résolu cela avec une architecture à deux chemins dans NeMo RL, un chemin général via EAGLE-3 et un chemin natif pour les modèles disposant de têtes MTP intégrées. Lorsque l'adaptation en ligne du brouillon est activée, les états cachés et log-probabilités issus du passage avant du vérificateur MegatronLM sont réutilisés pour superviser la tête brouillon via un gradient détaché, de sorte que l'entraînement du brouillon n'interfère jamais avec le gradient de politique. Cette fonctionnalité est désormais disponible en production dans NeMo RL v0.6.0, aux côtés du backend SGLang, de l'optimiseur Muon et de l'entraînement long contexte YaRN.

💬 Le vrai problème du RLHF à grande échelle, c'est que 70% du temps tu le passes juste à générer des rollouts. NVIDIA s'y attaque proprement avec le décodage spéculatif dans NeMo : un modèle brouillon qui anticipe, un modèle principal qui valide, et la garantie mathématique que la distribution reste intacte, pas de biais hors-politique introduit en douce. 1,8× sur 8B, 2,5× visé sur 235B, c'est le genre d'optimisation qu'on attendait depuis qu'on fait du RL sérieusement.