« Beaucoup de bruit autour des poids ouverts »
Kimi K3, publié ce week-end par la start-up chinoise Moonshot AI, s'est imposé comme l'événement marquant de la semaine dans le débat sur les modèles ouverts. Il s'agit d'un modèle de type MoE (mixture of experts) de 2 800 milliards de paramètres, avec 104 milliards de paramètres actifs répartis sur 896 experts dont 16 sont activés par requête, une fenêtre de contexte d'un million de tokens et une compréhension visuelle native. Moonshot a également ouvert le code de trois briques techniques associées : FlashKDA, ses noyaux d'attention Kimi Delta Attention, MoonEP, sa bibliothèque de communication pour architectures MoE, et AgentENV, son infrastructure distribuée pour environnements d'agents. Plusieurs évaluations indépendantes ont depuis confirmé que Kimi K3 surpasse Opus 4.8, ce qui en fait, selon Moonshot, le meilleur modèle à poids ouverts au monde. Le rapport technique met en avant un gain d'efficacité d'entraînement d'environ 2,5 fois par rapport à K2, obtenu grâce à des choix d'architecture centrés sur la stabilité numérique à grande échelle : poids en MXFP4, activations en MXFP8, et un encodeur visuel entraîné conjointement depuis le début. Le rapport ne précise toutefois pas le nombre total de tokens utilisés pour l'entraînement, une omission relevée par plusieurs observateurs.
Cette sortie illustre un tournant dans la manière dont l'industrie définit l'ouverture des modèles d'IA. La licence de Kimi K3 est qualifiée d'« open weights » mais pas de logiciel libre au sens strict : les fournisseurs d'hébergement générant plus de 20 millions de dollars de revenus annuels doivent signer un accord commercial séparé, et les produits dépassant 100 millions d'utilisateurs mensuels actifs ou 20 millions de dollars de revenus mensuels doivent afficher la mention « Kimi K3 » dans leur interface. Cette formule, entre gratuité d'accès et restrictions commerciales ciblées, pourrait devenir la norme pour les futurs modèles frontière présentés comme ouverts. La disponibilité immédiate du modèle chez une douzaine de plateformes dès le premier jour, vLLM, Baseten, Modal, Fireworks, Nebius, Together, DigitalOcean, Cursor, Cognition (Devin), Ollama Cloud et Dell Enterprise Hub, montre que le lancement d'un modèle ouvert frontière est désormais un événement d'écosystème et de chaîne d'approvisionnement, et plus seulement une annonce de recherche.
Ce lancement intervient alors que le débat public sur les modèles ouverts s'est enflammé cette semaine autour d'une lettre appelant à davantage d'ouverture, signée notamment par NVIDIA et Microsoft. OpenAI, d'abord donnée comme réticente, a fini par signer le texte, tandis qu'Anthropic s'en est tenue à l'écart. Cette agitation autour des prises de position publiques contraste avec le fait que seul Moonshot a effectivement livré un modèle à poids ouverts cette semaine, ce qui a conduit plusieurs commentateurs à juger plus utile de lire le rapport technique de Kimi K3 que de suivre les innombrables réactions sur les réseaux sociaux. Par ailleurs, la newsletter AI News, désormais intégrée à Latent Space, a annoncé l'arrivée de Richard MacManus au poste de responsable éditorial.
Dans nos dossiers
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.




