NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B

DeepSeek publie DSpark, un framework de décodage spéculatif qui accélère la génération par utilisateur de DeepSeek-V4 de 60 à 85 % par rapport à MTP-1

DeepSeek a publié DSpark, un cadre de décodage spéculatif conçu pour accélérer l'inférence de ses grands modèles en production, accompagné de checkpoints open-source et du code d'entraînement DeepSpec sous licence MIT. DSpark n'est pas un nouveau modèle : il s'agit d'une optimisation de service qui s'appuie sur les poids existants de DeepSeek-V4, auxquels est greffé un module de brouillon. Deux checkpoints sont disponibles, DeepSeek-V4-Pro-DSpark et DeepSeek-V4-Flash-DSpark, et les résultats annoncés sont significatifs : en production, la génération par utilisateur est 60 à 85 % plus rapide que la baseline MTP-1, sans aucune perte de qualité sur les sorties. En conditions hors ligne, la longueur acceptée par cycle dépasse Eagle3 de 26 à 31 %, et DFlash de 16 à 18 %. DSpark tire sa performance d'une architecture hybride qui résout un problème connu du décodage spéculatif : les systèmes parallèles sont rapides mais génèrent des tokens sans tenir compte des voisins, ce qui entraîne une dégradation rapide des acceptations en fin de bloc. DSpark combine un backbone parallèle lourd, basé sur DFlash, qui produit des logits de base pour chaque position, avec une tête séquentielle légère qui ajoute un biais dépendant du préfixe avant l'échantillonnage. Cette tête de Markov, factorisée en rang 256, ne regarde que le token précédent, mais suffit à maintenir un taux d'acceptation élevé sur l'ensemble du bloc. Un mécanisme de vérification à confiance calibrée complète le système : une tête de confiance estime la probabilité qu'un token survive à la vérification, tandis qu'un planificateur adapte dynamiquement la longueur de vérification selon la charge GPU, vérifiant davantage de tokens quand les ressources sont libres et moins quand elles sont saturées. Le décodage spéculatif est devenu l'un des axes majeurs d'optimisation de l'inférence LLM à grande échelle, notamment depuis la montée en charge de services comme ChatGPT ou Claude, où la latence perçue par utilisateur devient un différenciateur clé. DeepSeek, acteur chinois qui a bousculé le marché début 2025 avec des modèles très compétitifs à faible coût, continue ici de publier ses travaux en open source, une stratégie qui lui permet d'influencer les pratiques de la communauté tout en consolidant sa réputation technique. La mise à disposition de DeepSpec, le code d'entraînement et d'évaluation des brouilleurs, facilitera l'adoption de ces techniques par d'autres équipes. La prochaine étape naturelle sera de voir si ces gains se transfèrent à d'autres architectures de la famille V4, ou si des tiers parviennent à adapter DSpark à leurs propres modèles.

💬 60 à 85 % de gain de latence sans dégradation, c'est pas du bruit, c'est le genre de chiffre qui change une décision d'architecture. Ce que DeepSeek est en train de bâtir, c'est moins une avance technique qu'un standard de facto sur l'inférence open source : en livrant toute la plomberie sous MIT (code d'entraînement, checkpoints, méthode), ils s'assurent que tout l'écosystème converge vers leurs pratiques. Une stratégie d'influence plus rentable que de gagner des benchmarks.

[AINews] Reve 2 et Ideogram 4 : mises en page dans la génération d'images

Le 2 et 3 juin 2026, l'industrie de l'intelligence artificielle a connu une journée particulièrement dense. Microsoft a dévoilé MAI-Thinking-1, un modèle de raisonnement généraliste entraîné sans distillation de modèles tiers, qui atteint 97 % sur le benchmark AIME 2025 et 53 % sur SWE-Bench Pro, tout en surpassant Claude Sonnet 4.6 dans des comparaisons en aveugle selon les préférences humaines. Le rapport technique de 109 pages qui accompagne le lancement a été largement salué pour sa transparence inhabituelle : aucune donnée synthétique, aucun modèle préexistant utilisé comme point de départ, et les capacités de raisonnement et d'utilisation d'outils acquises uniquement en post-entraînement. Le même jour, les plateformes de génération d'images Reve 2 et Ideogram 4.0 lançaient simultanément des avancées majeures dans la composition et la mise en page visuelle, pendant que Google publiait Gemma 4 12B, un modèle multimodal open source sous licence Apache 2.0, conçu pour fonctionner en local avec environ 16 Go de VRAM. Le rapport MAI-Thinking-1 a particulièrement retenu l'attention des chercheurs pour ses détails techniques inhabituels : Microsoft y révèle sa composition d'entraînement exacte (50 % de code, 17,5 % de STEM, 17,5 % de mathématiques, 10 % de culture générale, 5 % de multilinguisme), sa recette de montée en puissance progressive et ses ratios de calcul précis. Au-delà du modèle lui-même, la firme pousse une stratégie d'appropriation par les entreprises via le "Frontier Tuning", un système de personnalisation par renforcement qui permettrait à des modèles MAI adaptés à des tâches spécifiques d'atteindre des performances comparables à GPT-5.4 avec une efficacité dix fois supérieure. Gemma 4 12B, de son côté, introduit une architecture sans encodeur séparé pour la vision ou l'audio, toutes les modalités étant intégrées directement dans le backbone du LLM, avec un support immédiat sous vLLM, Ollama et llama.cpp, et des versions quantifiées fonctionnant sur seulement 8 Go de RAM. Ces sorties s'inscrivent dans une compétition accélérée entre laboratoires pour la maîtrise du raisonnement et du multimodal. Microsoft tente un positionnement inédit : combiner la transparence académique d'un rapport de recherche frontalier avec une infrastructure de personnalisation d'entreprise clé en main, une approche que ni OpenAI ni Google n'ont encore formalisée à cette échelle. Sur le front de l'image, le fait que Reve et Ideogram lancent le même jour des progrès sur la composition visuelle signale que ce verrou technique, longtemps considéré comme partiellement insolvable par les IA, a été levé collectivement en 2026. Ideogram 4.0 se positionne désormais comme le meilleur modèle d'image en accès ouvert, même si les classements Arena placent GPT-Image-2 encore nettement au-dessus. La convergence de ces annonces en une seule journée illustre la cadence désormais hebdomadaire des percées en IA générative.

💬 Composer du texte, superposer des éléments, gérer les proportions, c'était le talon d'Achille de tous les générateurs d'image. Que Reve et Ideogram sortent ça le même jour, c'est le genre de synchronisation qui signale que quelque chose s'est débloqué en profondeur. Reste à voir si Ideogram 4 tient son rang face à GPT-Image-2 dans la durée, parce que les classements Arena ont leurs angles morts.

GLM-5.2 : meilleur modèle de codage frontend au monde, IndexShare pour le décodage spéculatif

Z.ai a publié GLM-5.2 le week-end du 14-15 juin 2026, un modèle de langage open-weight sous licence MIT, architecturé en mixture-of-experts avec 744 milliards de paramètres au total et 40 milliards actifs par token. Le modèle intègre une fenêtre de contexte d'un million de tokens, deux modes de raisonnement (high et max), et est disponible au même tarif que son prédécesseur GLM-5.1, soit 1,4 dollar par million de tokens en entrée et 4,4 dollars en sortie. Dès le premier jour, le support a été assuré par une dizaine d'infrastructures et plateformes majeures : vLLM, SGLang, Cloudflare Workers AI, OpenRouter, Ollama, Baseten, DeepInfra, Fireworks et Notion. Sur les benchmarks indépendants, les résultats sont remarquables : troisième place sur FrontierSWE (derrière Fable 5 et Claude Opus 4.8, mais devant GPT-5.5), première place sur le Design Arena avec un Elo de 1360, et premier modèle open-source de loin sur l'Agent Arena, classé dixième toutes catégories confondues. Sur le Code Arena Frontend, GLM-5.2 devance l'ensemble des versions d'Opus, y compris la 4.8. C'est précisément ce dernier point qui rend la sortie significative. Le front-end est considéré comme un terrain d'affrontement décisif entre modèles de code, et le fait qu'un modèle open-weight batte tous les Claude Opus sur ce segment constitue une première. Des praticiens ayant eu accès anticipé, dont le YouTubeur technique Sentdex, ont déclaré que GLM-5.2 est le premier modèle open-source qu'ils pourraient concrètement substituer à Opus ou GPT dans leurs workflows professionnels. Pour les développeurs et les entreprises, cela signifie une alternative crédible, sans frais de licence propriétaire, pour des tâches de génération de code intensives ou des agents autonomes à longue durée d'exécution. GLM-5.2 s'inscrit dans une trajectoire rapide pour Z.ai, qui avait déjà bousculé le classement des laboratoires open-source avec GLM-5 en début d'année, devançant DeepSeek, Mistral, Cohere et Moonshot sur la plupart des évaluations. La version 5.1 n'était qu'une mise à jour mineure ; le 5.2 représente un saut architectural plus substantiel, avec une extension de DeepSeek Sparse Attention baptisée IndexShare, conçue pour améliorer l'efficacité sur les très longs contextes, et une amélioration du mécanisme de prédiction multi-token pour la décoding spéculative. La sortie a été qualifiée d'"opportuniste" par certains observateurs, intervenant dans la foulée de la controverse liée à l'interdiction de Fable 5 dans certains contextes, une affaire toujours non résolue. Z.ai semble avoir profité du vide pour s'imposer comme la référence open-source du moment en matière de code et d'agents.

💬 Le front-end, c'est l'épreuve reine pour les modèles de code. GLM-5.2 vient de battre tous les Claude Opus sur ce segment, en open-weight MIT, avec un timing qu'on ne peut pas qualifier d'innocent vu la situation autour de Fable 5. Si ça tient en prod, ça va faire réfléchir beaucoup d'équipes sur leurs budgets d'API.

DiffusionGemma : l’IA de Google met un coup d’accélérateur à la génération de texte

Google a présenté DiffusionGemma, un modèle expérimental de génération de texte qui abandonne l'approche séquentielle classique au profit d'une génération par blocs parallèles. Reposant sur une architecture Mixture of Experts de 26 milliards de paramètres, dont seulement 3,8 milliards activés lors de la génération, le modèle traite jusqu'à 256 jetons simultanément plutôt que de les produire un par un. Google revendique une vitesse pouvant atteindre plus de 1 000 jetons par seconde sur certains accélérateurs haut de gamme, soit jusqu'à quatre fois plus rapide que les modèles autorégressifs traditionnels comme Gemma 4. Le fonctionnement s'inspire directement des modèles de diffusion d'images : DiffusionGemma part d'un brouillon de jetons aléatoires, qu'il affine sur plusieurs passes successives jusqu'à produire un texte cohérent. Son attention bidirectionnelle permet à chaque partie du texte généré de prendre en compte l'ensemble du bloc en cours de construction, ce qui le rend particulièrement adapté à des tâches comme l'édition, le remplissage de code ou toute application où le contexte global est déterminant. Cette vitesse d'exécution représente un enjeu concret pour les développeurs qui cherchent à intégrer des IA dans des interfaces temps réel, des outils d'autocomplétion ou des applications où la latence perçue doit être quasi nulle. En exploitant plus efficacement la parallélisation des GPU modernes, DiffusionGemma réduit aussi les ressources laissées inutilisées entre chaque jeton généré sous l'approche classique. Sa compatibilité avec des GPU grand public, grâce à l'activation partielle des paramètres, ouvre également la porte à des déploiements moins coûteux en infrastructure, un argument de poids pour les équipes qui opèrent hors des datacenters hyperscale. Cette annonce s'inscrit dans une dynamique plus large d'expérimentation autour des alternatives aux modèles autorégressifs. La recherche sur les modèles de diffusion textuelle existe depuis plusieurs années, mais leur intégration dans des architectures de grande taille et leur viabilité pratique restaient limitées. Google, en publiant DiffusionGemma sous forme expérimentale, reconnaît lui-même que la qualité globale des réponses reste inférieure à celle de Gemma 4 classique : la vitesse a un coût en précision et en cohérence générale. Le modèle n'est donc pas encore positionné comme un successeur direct de la gamme Gemma, mais comme un terrain d'expérimentation pour les cas d'usage où la rapidité prime sur la finesse. L'enjeu des prochains mois sera de savoir si la recherche parvient à combler cet écart de qualité, et si d'autres acteurs comme Meta, Mistral ou OpenAI s'engagent à leur tour sur cette voie architecturale.