Aller au contenu principal
LLMsLatent Space · 2 min de lecture

« Beaucoup de bruit autour des poids ouverts »

Source originale ↗·

Kimi K3, publié ce week-end par la start-up chinoise Moonshot AI, s'est imposé comme l'événement marquant de la semaine dans le débat sur les modèles ouverts. Il s'agit d'un modèle de type MoE (mixture of experts) de 2 800 milliards de paramètres, avec 104 milliards de paramètres actifs répartis sur 896 experts dont 16 sont activés par requête, une fenêtre de contexte d'un million de tokens et une compréhension visuelle native. Moonshot a également ouvert le code de trois briques techniques associées : FlashKDA, ses noyaux d'attention Kimi Delta Attention, MoonEP, sa bibliothèque de communication pour architectures MoE, et AgentENV, son infrastructure distribuée pour environnements d'agents. Plusieurs évaluations indépendantes ont depuis confirmé que Kimi K3 surpasse Opus 4.8, ce qui en fait, selon Moonshot, le meilleur modèle à poids ouverts au monde. Le rapport technique met en avant un gain d'efficacité d'entraînement d'environ 2,5 fois par rapport à K2, obtenu grâce à des choix d'architecture centrés sur la stabilité numérique à grande échelle : poids en MXFP4, activations en MXFP8, et un encodeur visuel entraîné conjointement depuis le début. Le rapport ne précise toutefois pas le nombre total de tokens utilisés pour l'entraînement, une omission relevée par plusieurs observateurs.

Cette sortie illustre un tournant dans la manière dont l'industrie définit l'ouverture des modèles d'IA. La licence de Kimi K3 est qualifiée d'« open weights » mais pas de logiciel libre au sens strict : les fournisseurs d'hébergement générant plus de 20 millions de dollars de revenus annuels doivent signer un accord commercial séparé, et les produits dépassant 100 millions d'utilisateurs mensuels actifs ou 20 millions de dollars de revenus mensuels doivent afficher la mention « Kimi K3 » dans leur interface. Cette formule, entre gratuité d'accès et restrictions commerciales ciblées, pourrait devenir la norme pour les futurs modèles frontière présentés comme ouverts. La disponibilité immédiate du modèle chez une douzaine de plateformes dès le premier jour, vLLM, Baseten, Modal, Fireworks, Nebius, Together, DigitalOcean, Cursor, Cognition (Devin), Ollama Cloud et Dell Enterprise Hub, montre que le lancement d'un modèle ouvert frontière est désormais un événement d'écosystème et de chaîne d'approvisionnement, et plus seulement une annonce de recherche.

Ce lancement intervient alors que le débat public sur les modèles ouverts s'est enflammé cette semaine autour d'une lettre appelant à davantage d'ouverture, signée notamment par NVIDIA et Microsoft. OpenAI, d'abord donnée comme réticente, a fini par signer le texte, tandis qu'Anthropic s'en est tenue à l'écart. Cette agitation autour des prises de position publiques contraste avec le fait que seul Moonshot a effectivement livré un modèle à poids ouverts cette semaine, ce qui a conduit plusieurs commentateurs à juger plus utile de lire le rapport technique de Kimi K3 que de suivre les innombrables réactions sur les réseaux sociaux. Par ailleurs, la newsletter AI News, désormais intégrée à Latent Space, a annoncé l'arrivée de Richard MacManus au poste de responsable éditorial.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Depuis son retour, Claude Fable 5 fait beaucoup moins rêver
1Next INpact 

Depuis son retour, Claude Fable 5 fait beaucoup moins rêver

Depuis son retour le 1ᵉʳ juillet 2026, Claude Fable 5 déçoit. Anthropic avait lancé ce modèle le 9 juin, le présentant comme le plus capable de son histoire, une version de Mythos 5 dotée de garde-fous supplémentaires. Trois jours plus tard, une directive de contrôle des exportations signée par la Maison-Blanche a contraint Anthropic à suspendre l'accès à Fable 5 et Mythos 5 pour tout ressortissant étranger, y compris ses propres employés non-américains, entraînant un arrêt mondial faute de pouvoir filtrer les utilisateurs par nationalité en temps réel. Le déclencheur : un rapport de chercheurs d'Amazon selon lequel Fable 5 pouvait être manipulé pour livrer des informations exploitables dans des cyberattaques, sur fond de soupçons qu'un groupe lié à la Chine ait pu accéder à Mythos et le rétro-ingénierer. Fin juin, le Department of Commerce a levé ces restrictions, et Fable 5 a retrouvé Claude Platform, Claude.ai, Claude Code et Claude Cowork le 1ᵉʳ juillet, tandis que Mythos 5 reste réservé aux partenaires vérifiés du programme Glasswing, comme Mozilla. Ce retour, après environ trois semaines d'interruption, s'accompagne d'une chute de performances qui inquiète les utilisateurs professionnels. Avant le blocage, Fable 5 affichait des scores impressionnants : 80,3 % sur SWE-Bench Pro contre 69,2 % pour Opus 4.8, et 64,5 % sur Humanity's Last Exam avec outils contre 57,9 % pour Opus 4.8 et 52,2 % pour GPT-5.5, des résultats relevés notamment par Datacamp. Every allait plus loin en le qualifiant de meilleur modèle de programmation du marché, avec 91 points sur 100 à son benchmark maison « Senior Engineer », contre 63 pour Opus 4.8 et 62 pour GPT-5.5, un constat partagé par BenchLM. Or depuis le 1ᵉʳ juillet, selon des données publiées le 2 juillet par la plateforme BridgeMind et relayées par Tech Times, les scores de débogage TypeScript de Fable 5 se sont effondrés de 70 %. Pour les développeurs qui avaient adopté le modèle pour ses capacités de programmation, cette dégradation change concrètement l'expérience d'usage et la confiance accordée à l'outil. L'explication ne tiendrait pas à une baisse réelle des capacités du modèle, mais à un nouveau classificateur de cybersécurité introduit avec le retour de Fable 5, qui redirige silencieusement une partie des requêtes de programmation vers Opus 4.8, sans en informer systématiquement les utilisateurs. Cet épisode illustre la tension entre impératifs de sécurité nationale et compétitivité commerciale : pendant les trois semaines de coupure et cette phase de restrictions renforcées, l'usage des modèles chinois a progressé rapidement, un contexte qui pourrait peser sur la position d'Anthropic face à une concurrence internationale de plus en plus pressante.

💬 La chute de perf de Fable 5, c'est pas le modèle qui a baissé, c'est un classificateur de sécurité qui redirige en douce une partie du trafic vers Opus 4.8 sans le dire aux utilisateurs. Sur le papier t'as toujours le meilleur codeur du marché, dans les faits tu causes parfois à un autre modèle sans le savoir. Et pendant les trois semaines de coupure, les modèles chinois ont grignoté du terrain, ça devrait inquiéter Anthropic bien plus qu'un benchmark TypeScript en berne.

LLMsOpinion
1 source
Kimi K3 en poids ouverts : le pari chinois de l'IA mise sur la mémoire, pas sur la puissance de calcul
2AI News 

Kimi K3 en poids ouverts : le pari chinois de l'IA mise sur la mémoire, pas sur la puissance de calcul

Moonshot AI a dévoilé le 16 juillet 2026 Kimi K3, un modèle open-weight de 2,8 billions de paramètres, le plus grand jamais publié en accès ouvert. Ce volume le fait entrer dans la catégorie dite "3T", jamais atteinte par un modèle ouvert auparavant, et dépasse largement le précédent modèle phare de Moonshot, un peu plus de 1 billion de paramètres, ainsi que le V4 Pro de DeepSeek, qui culmine à 1,6 billion. K3 propose une fenêtre de contexte d'un million de tokens et une architecture nativement multimodale. Moonshot met en avant deux innovations techniques : l'attention Kimi Delta, qui accélère le décodage jusqu'à 6,3 fois sur des contextes d'un million de tokens, et les Attention Residuals, qui améliorent l'efficacité d'entraînement d'environ 25 % pour moins de 2 % de coût supplémentaire. Le modèle repose sur une architecture mixture of experts divisée en 896 sections spécialisées, dont seulement 16 sont activées à chaque calcul, soit environ 1,8 % du total. Autre choix marquant, K3 a été entraîné à une précision de 4 bits par paramètre au lieu des 16 bits habituels, une technique appliquée dès la phase de fine-tuning. Résultat, selon des analyses indépendantes : environ 1,4 To de mémoire nécessaire dans ce format, contre 5,6 To en pleine précision. Moonshot a aussi contribué du code de mise en cache au projet open-source vLLM et recommande de faire tourner K3 sur au moins 64 accélérateurs étroitement interconnectés, avec des tests réalisés sur des puces Nvidia H200 et sur un GPGPU d'un fournisseur alternatif non identifié. Ce choix de conception traduit une réponse directe aux restrictions américaines sur l'exportation de puces vers la Chine. Plutôt que de contourner la contrainte de calcul, Moonshot la déplace vers la mémoire, une ressource qui peut être assemblée à partir d'un grand nombre de puces individuellement modestes, contrairement à la puissance de calcul nécessaire à l'entraînement de modèles de cette taille. En réduisant drastiquement l'empreinte mémoire du modèle, l'entreprise affirme pouvoir proposer des prix compétitifs malgré la taille de K3, une promesse cruciale pour les entreprises qui veulent déployer des modèles ouverts sans dépendre exclusivement du matériel Nvidia. Pour l'industrie, cela signifie qu'un modèle de pointe peut désormais tourner sur une infrastructure mixte ou alternative, ce qui élargit le choix des fournisseurs de cloud et des opérateurs de datacenters. Cette stratégie interroge aussi la solidité des restrictions américaines sur les semi-conducteurs : si la mémoire peut compenser le manque de puissance de calcul dédiée, la barrière technologique censée freiner les laboratoires chinois s'avère plus poreuse que prévu. Kimi K3 s'inscrit dans une compétition intense entre laboratoires chinois pour la publication de modèles ouverts toujours plus grands, face à DeepSeek et d'autres acteurs du secteur, dans un contexte où les Etats-Unis limitent depuis plusieurs années l'accès de la Chine aux puces d'intelligence artificielle les plus avancées. L'approche de Moonshot, qui consiste à répartir la charge mémoire sur des grappes de 64 accélérateurs ou plus étroitement interconnectés, rappelle la logique des systèmes CloudMatrix développés par Huawei, un signe que l'industrie chinoise mise sur l'agrégation de matériel moins performant plutôt que sur l'accès à des puces de pointe individuelles. Reste une zone d'ombre : Moonshot n'a pas précisé si ses tests incluaient du silicium chinois, se contentant de mentionner un fournisseur alternatif sans le nommer, ce qui laisse planer le doute sur la nature exacte du matériel utilisé en interne. À mesure que d'autres laboratoires observeront les performances réelles de K3 en production, la question centrale restera de savoir si cette architecture axée sur la mémoire plutôt que sur le calcul brut peut être répliquée à grande échelle, et si elle annonce une nouvelle norme pour les modèles ouverts entraînés hors des Etats-Unis.

LLMsOpinion
1 source
GLM-5.2 à poids ouverts de Z.ai surpasse GPT-5.5 sur plusieurs benchmarks de codage long terme, pour un sixième du coût
3VentureBeat AI 

GLM-5.2 à poids ouverts de Z.ai surpasse GPT-5.5 sur plusieurs benchmarks de codage long terme, pour un sixième du coût

La startup chinoise Z.ai (anciennement Zhipu AI) a annoncé le 17 juin 2026 la disponibilité immédiate de GLM-5.2, un modèle de langage open-weights de 753 milliards de paramètres conçu spécifiquement pour les tâches de développement logiciel autonomes et de longue durée. Le modèle est accessible dès maintenant sur Hugging Face, via l'API Z.ai et dans plus de 20 environnements de développement tiers. Il dispose d'une fenêtre de contexte stable d'un million de tokens et des abonnements entreprise démarrent à 12,60 dollars par mois. Ses poids sont publiés sous licence MIT sans restriction, permettant à quiconque de le télécharger, de le personnaliser et de le déployer localement. Sur les benchmarks industriels, GLM-5.2 surpasse GPT-5.5 d'OpenAI sur plusieurs épreuves clés : SWE-bench Pro (62,1 contre 58,6), FrontierSWE (74,4 % contre 72,6 %), MCP-Atlas (77,0 contre 75,3) et PostTrainBench (34,3 % contre 25,0 %). Il talonne Claude Opus 4.8 d'Anthropic sur la quasi-totalité de ces tests. La sortie de GLM-5.2 arrive à un moment stratégiquement décisif pour les entreprises qui dépendent de modèles d'IA de pointe. La semaine précédente, l'administration Trump a publié une directive de contrôle des exportations interdisant aux ressortissants étrangers d'utiliser Claude Fable 5 d'Anthropic, ce qui a conduit Anthropic à retirer ce modèle de l'accès global pour tous les utilisateurs. Pour les responsables techniques en dehors des États-Unis, GLM-5.2 offre une alternative concrète : un modèle de niveau frontier hébergeable en interne, hors de portée des restrictions géographiques et des aléas réglementaires américains. Son coût d'exploitation réduit à un sixième de celui des modèles propriétaires équivalents renforce encore son attrait pour les organisations soucieuses de maîtriser leur infrastructure IA. Sur le plan architectural, GLM-5.2 introduit une optimisation appelée IndexShare, qui réutilise un même indexeur pour quatre couches d'attention sparse consécutives, réduisant de 2,9 fois le nombre de FLOPs par token à longueur de contexte maximale. Le modèle intègre également une couche Multi-Token Prediction améliorée, qui accroît de 20 % la longueur des tokens acceptés lors de l'inférence, ainsi que des modes de raisonnement sélectionnables, "Max" pour la puissance maximale, "High" pour un équilibre performance-latence. Z.ai s'inscrit ainsi dans une tendance de fond portée par des acteurs chinois comme DeepSeek, qui misent sur l'open-source et l'efficacité architecturale pour rivaliser avec les laboratoires occidentaux disposant de budgets bien supérieurs. Avec GLM-5.2, la compétition pour le leadership en IA agentic se déplace clairement au-delà des frontières américaines.

UELes entreprises et développeurs français et européens disposent désormais d'une alternative frontier auto-hébergeable sous licence MIT, hors de portée des restrictions d'exportation américaines qui ont récemment limité l'accès aux modèles de pointe d'Anthropic.

💬 Le moment est trop bien choisi pour être un hasard. Z.ai sort un 753 milliards de paramètres open-weights qui passe devant GPT-5.5 sur le code, MIT, hébergeable où tu veux, pile une semaine après qu'Anthropic a dû couper Fable 5 globalement sur pression de Washington. Pour les boîtes européennes qui cherchaient une sortie de la dépendance cloud américaine, bon, la voilà.

LLMsOpinion
1 source
Moonshot AI publie les poids ouverts et l'infrastructure de Kimi K3 après avoir bousculé la course aux modèles de pointe
4The Decoder 

Moonshot AI publie les poids ouverts et l'infrastructure de Kimi K3 après avoir bousculé la course aux modèles de pointe

Moonshot AI, la start-up chinoise à l'origine de la série Kimi, a publié les poids du modèle Kimi K3 en open source et rendu accessible une partie de son infrastructure technique. Sur les benchmarks les plus suivis du secteur, Kimi K3 talonne les modèles frontières occidentaux les plus performants, dont Claude et GPT-5.6 Sol d'OpenAI, un résultat remarqué pour un modèle développé en Chine dans un contexte de restrictions sur l'accès aux puces avancées. Des tests indépendants menés après la sortie ont toutefois révélé des écarts significatifs de performance sur les tâches de cybersécurité et de mathématiques, des domaines où Kimi K3 reste nettement en retrait par rapport à ses concurrents malgré ses bons scores globaux. Cet écart entre les benchmarks généralistes et les résultats sur des tâches spécialisées relance un débat déjà ancien dans l'industrie de l'IA : celui de la distillation, une technique consistant à entraîner un modèle en s'appuyant sur les sorties d'un modèle plus puissant déjà existant plutôt que sur des données brutes originales. Si cette hypothèse se confirme, elle interrogerait la nature réelle des progrès affichés par les laboratoires chinois sur les classements publics, souvent utilisés comme argument commercial et géopolitique pour démontrer une parité avec les acteurs américains. Pour les développeurs et entreprises qui envisagent d'adopter Kimi K3, ces failles ciblées changent concrètement le calcul de risque selon les cas d'usage prévus. La publication s'inscrit dans une compétition mondiale de plus en plus tendue entre laboratoires chinois et occidentaux, où l'ouverture des poids de modèle est devenue un outil stratégique autant que technique, permettant d'attirer développeurs et entreprises vers son écosystème plutôt que celui d'un concurrent propriétaire. Moonshot AI rejoint ainsi DeepSeek et d'autres acteurs chinois dans une stratégie d'open source agressive, à contre-courant de la fermeture croissante des modèles occidentaux les plus avancés. Reste à savoir si d'autres évaluations indépendantes confirmeront les limites observées en cybersécurité et en mathématiques, et si Moonshot AI ajustera sa méthode d'entraînement pour les prochaines itérations de Kimi.

💬 Ce qui m'intéresse ici, c'est pas le classement, c'est l'écart. Kimi K3 talonne Claude et GPT-5.6 sur les benchmarks généralistes mais s'écroule en cybersécurité et en maths, et ça sent la distillation, un modèle qui a appris à imiter les réponses des autres plutôt qu'à raisonner par lui-même. Bon, sur le papier la parité technique avec les US est là, mais dans les faits elle se limite aux domaines qu'on mesure le plus. Retiens ça : les classements publics deviennent un argument géopolitique avant d'être une preuve technique, et Moonshot le démontre malgré lui.

LLMsActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic