Aller au contenu principal
LLMsAWS ML Blog · 2 min de lecture

Kimi K3 déployé sur AWS

Source originale ↗·

Moonshot AI a publié le 27 juillet 2026 Kimi K3, un modèle de langage à mélange d'experts (Mixture of Experts) doté de 2,8 billions de paramètres, devenant ainsi le premier système à poids ouverts à franchir le seuil des 3 000 milliards de paramètres. Son architecture repose sur trois innovations techniques : l'attention Kimi Delta (KDA), une attention latente multi têtes à portes (Gated MLA) et un cadre appelé Stable LatentMoE. Le modèle répartit ses paramètres sur 896 experts spécialisés, dont seulement 16 sont activés à chaque token traité, ce qui ramène le nombre de paramètres réellement actifs à environ 104 milliards par passage. Moonshot AI annonce un gain d'efficacité de 2,5 fois par rapport à son prédécesseur, Kimi K2. Le modèle dispose d'une fenêtre de contexte d'un million de tokens, gère nativement le texte et l'image, et intègre l'appel d'outils, la génération de sorties structurées et un mode de raisonnement permanent pour les tâches complexes. Les poids sont disponibles sur Hugging Face sous l'identifiant moonshotai/Kimi-K3, au format MXFP4 (virgule flottante 4 bits à micro échelle), choisi pour son équilibre entre qualité et efficacité mémoire.

Cette publication marque une étape importante pour les entreprises souhaitant héberger elles-mêmes un modèle de niveau frontière plutôt que de dépendre d'une API propriétaire. Mais la contrepartie de cette ouverture est une exigence matérielle considérable : Amazon Web Services, qui a documenté deux méthodes de déploiement, précise que Kimi K3 nécessite une instance p6-b300 équipée de huit GPU NVIDIA B300 Blackwell Ultra reliés par une interconnexion à très haut débit, indispensable pour répartir efficacement le calcul entre les centaines d'experts du modèle. Cette exigence illustre une tension croissante dans l'écosystème de l'IA ouverte : les modèles les plus capables deviennent aussi les plus coûteux à faire fonctionner, réservant de fait leur usage à des organisations disposant d'infrastructures GPU de pointe.

Pour répondre à cette demande, AWS propose désormais deux voies de déploiement, via Amazon SageMaker HyperPod avec son opérateur d'inférence, qui simplifie l'orchestration et la gestion des points de terminaison, ou via un cluster Amazon EKS. Dans les deux cas, le service d'inférence recommandé est vLLM, dont une version spécifique à Kimi K3 doit encore être fusionnée dans la branche principale. Pour garantir l'accès à cette capacité GPU rare, AWS met en avant ses Flexible Training Plans et ses Capacity Blocks, deux mécanismes de réservation conçus pour sécuriser l'accès aux instances p6-b300. Cette course entre laboratoires d'IA et fournisseurs cloud pour rendre exploitables des modèles toujours plus massifs devrait s'intensifier à mesure que d'autres acteurs, comme DeepSeek ou Meta, cherchent eux aussi à repousser les limites des modèles à poids ouverts.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Claude Opus 4.8 est désormais disponible sur AWS
1AWS ML Blog 

Claude Opus 4.8 est désormais disponible sur AWS

Anthropic a annoncé la disponibilité de Claude Opus 4.8, son modèle le plus avancé de la gamme Opus, sur Amazon Bedrock et sur la Claude Platform déployée sur AWS. Ce lancement permet aux équipes de développement d'intégrer le modèle directement dans leurs environnements AWS existants, tout en bénéficiant des garanties de sécurité entreprise, de résidence régionale des données et de la scalabilité d'infrastructure propres à Amazon. Pour les cas d'usage ne nécessitant pas de résidence régionale, le modèle est également accessible via la plateforme native d'Anthropic hébergée sur AWS. Techniquement, l'accès se fait via le SDK Anthropic avec l'identifiant de modèle us.anthropic.claude-opus-4-8, ou via les API Invoke et Converse d'Amazon Bedrock. Ce qui distingue Opus 4.8 de ses prédécesseurs, c'est sa capacité à maintenir un plan d'action sur plusieurs étapes successives, à suivre ce qui a été accompli et ce qui reste à faire, et surtout à se recorriger lorsqu'un blocage survient plutôt que de simplement s'arrêter sur une erreur. Pour les équipes qui automatisent des tâches longues et complexes, cette stabilité se traduit concrètement par moins de variance dans les sorties, moins de cycles de révision manuelle, et une supervision réduite des pipelines en production. En développement logiciel, le modèle est conçu pour naviguer dans de vraies bases de code, planifier avant d'éditer, et conserver le contexte sur des sessions prolongées. Les cas d'usage industriels ciblés incluent la recherche d'investissement et l'analyse de résultats financiers, la rédaction de contrats et de mémoires juridiques, la synthèse de littérature scientifique et de soumissions réglementaires en sciences du vivant, ainsi que l'analyse de menaces et la réponse à incident en cybersécurité. Ce lancement s'inscrit dans une stratégie de partenariat approfondi entre Anthropic et AWS, qui s'est notamment matérialisée par un investissement d'Amazon pouvant atteindre quatre milliards de dollars dans Anthropic. La disponibilité sur Bedrock est stratégique pour Anthropic, qui cherche à s'imposer comme fournisseur de référence pour les déploiements en entreprise, face à la concurrence directe d'OpenAI via Azure et de Google DeepMind via Vertex AI. Opus 4.8 représente le haut de gamme de la nouvelle génération Claude 4, une famille de modèles qui comprend également Sonnet 4.6 et Haiku 4.5, chacun positionné sur un équilibre différent entre performance et coût d'inférence. La prochaine étape pour Anthropic sera probablement d'élargir la disponibilité régionale du modèle sur Bedrock, et d'affiner ses capacités dans les domaines où la régulation de l'IA évolue rapidement.

UELes entreprises européennes peuvent déployer Claude Opus 4.8 sur Amazon Bedrock avec résidence régionale des données, facilitant la conformité RGPD pour les cas d'usage en production.

LLMsActu
1 source
Kimi K3 en poids ouverts : le pari chinois de l'IA mise sur la mémoire, pas sur la puissance de calcul
2AI News 

Kimi K3 en poids ouverts : le pari chinois de l'IA mise sur la mémoire, pas sur la puissance de calcul

Moonshot AI a dévoilé le 16 juillet 2026 Kimi K3, un modèle open-weight de 2,8 billions de paramètres, le plus grand jamais publié en accès ouvert. Ce volume le fait entrer dans la catégorie dite "3T", jamais atteinte par un modèle ouvert auparavant, et dépasse largement le précédent modèle phare de Moonshot, un peu plus de 1 billion de paramètres, ainsi que le V4 Pro de DeepSeek, qui culmine à 1,6 billion. K3 propose une fenêtre de contexte d'un million de tokens et une architecture nativement multimodale. Moonshot met en avant deux innovations techniques : l'attention Kimi Delta, qui accélère le décodage jusqu'à 6,3 fois sur des contextes d'un million de tokens, et les Attention Residuals, qui améliorent l'efficacité d'entraînement d'environ 25 % pour moins de 2 % de coût supplémentaire. Le modèle repose sur une architecture mixture of experts divisée en 896 sections spécialisées, dont seulement 16 sont activées à chaque calcul, soit environ 1,8 % du total. Autre choix marquant, K3 a été entraîné à une précision de 4 bits par paramètre au lieu des 16 bits habituels, une technique appliquée dès la phase de fine-tuning. Résultat, selon des analyses indépendantes : environ 1,4 To de mémoire nécessaire dans ce format, contre 5,6 To en pleine précision. Moonshot a aussi contribué du code de mise en cache au projet open-source vLLM et recommande de faire tourner K3 sur au moins 64 accélérateurs étroitement interconnectés, avec des tests réalisés sur des puces Nvidia H200 et sur un GPGPU d'un fournisseur alternatif non identifié. Ce choix de conception traduit une réponse directe aux restrictions américaines sur l'exportation de puces vers la Chine. Plutôt que de contourner la contrainte de calcul, Moonshot la déplace vers la mémoire, une ressource qui peut être assemblée à partir d'un grand nombre de puces individuellement modestes, contrairement à la puissance de calcul nécessaire à l'entraînement de modèles de cette taille. En réduisant drastiquement l'empreinte mémoire du modèle, l'entreprise affirme pouvoir proposer des prix compétitifs malgré la taille de K3, une promesse cruciale pour les entreprises qui veulent déployer des modèles ouverts sans dépendre exclusivement du matériel Nvidia. Pour l'industrie, cela signifie qu'un modèle de pointe peut désormais tourner sur une infrastructure mixte ou alternative, ce qui élargit le choix des fournisseurs de cloud et des opérateurs de datacenters. Cette stratégie interroge aussi la solidité des restrictions américaines sur les semi-conducteurs : si la mémoire peut compenser le manque de puissance de calcul dédiée, la barrière technologique censée freiner les laboratoires chinois s'avère plus poreuse que prévu. Kimi K3 s'inscrit dans une compétition intense entre laboratoires chinois pour la publication de modèles ouverts toujours plus grands, face à DeepSeek et d'autres acteurs du secteur, dans un contexte où les Etats-Unis limitent depuis plusieurs années l'accès de la Chine aux puces d'intelligence artificielle les plus avancées. L'approche de Moonshot, qui consiste à répartir la charge mémoire sur des grappes de 64 accélérateurs ou plus étroitement interconnectés, rappelle la logique des systèmes CloudMatrix développés par Huawei, un signe que l'industrie chinoise mise sur l'agrégation de matériel moins performant plutôt que sur l'accès à des puces de pointe individuelles. Reste une zone d'ombre : Moonshot n'a pas précisé si ses tests incluaient du silicium chinois, se contentant de mentionner un fournisseur alternatif sans le nommer, ce qui laisse planer le doute sur la nature exacte du matériel utilisé en interne. À mesure que d'autres laboratoires observeront les performances réelles de K3 en production, la question centrale restera de savoir si cette architecture axée sur la mémoire plutôt que sur le calcul brut peut être répliquée à grande échelle, et si elle annonce une nouvelle norme pour les modèles ouverts entraînés hors des Etats-Unis.

LLMsOpinion
1 source
Kimi K3 dévoile ses poids complets, mais leur licence "ouverte" comporte une réserve à connaître pour les entreprises
3VentureBeat AI 

Kimi K3 dévoile ses poids complets, mais leur licence "ouverte" comporte une réserve à connaître pour les entreprises

Moonshot AI, la start-up chinoise à l'origine de la famille de modèles ouverts Kimi K, a publié aujourd'hui les poids complets de son modèle le plus performant à ce jour, Kimi K3. L'entreprise avait déjà dévoilé le modèle via son API hébergée plus tôt ce mois-ci, avec une architecture à 2,8 billions de paramètres, une fenêtre de contexte d'un million de tokens et des performances de référence au niveau des meilleurs modèles du marché. Cette nouvelle annonce complète le déploiement avec la publication des poids du modèle, un rapport technique de 47 pages détaillant les innovations et les difficultés rencontrées pendant l'entraînement, ainsi qu'une grande partie de l'infrastructure nécessaire pour faire tourner le modèle de façon autonome. Cela inclut le modèle complet de type Mixture-of-Experts à 2,8 billions de paramètres, l'infrastructure d'inférence, des noyaux d'attention optimisés, des bibliothèques de communication pour l'architecture MoE, ainsi que des composants de déploiement destinés aux chercheurs et développeurs souhaitant héberger le système eux-mêmes plutôt que de dépendre uniquement de l'API. Moonshot publie également un support d'implémentation pour des écosystèmes comme vLLM et SGLang. Le rapport technique décrit des innovations architecturales telles que Kimi Delta Attention, Attention Residuals et Stable LatentMoE, qui permettent à l'entreprise de présenter Kimi K3 comme le premier modèle ouvert de classe 3 billions de paramètres au monde, activant 104 milliards de paramètres parmi un total de 896 experts, tout en prenant en charge un raisonnement multimodal natif. Pour les entreprises, cette publication ouvre l'accès à une intelligence artificielle de pointe à moindre coût, contrôlable et exploitable hors ligne, un atout majeur face aux modèles propriétaires facturés à l'usage. Mais la licence associée à Kimi K3 impose des obligations inédites par rapport aux licences open source classiques comme Apache 2.0 ou MIT. Si une entreprise ou ses filiales exploitent une activité de type "Modèle en tant que Service", c'est à dire un accès à l'inférence ou au fine-tuning du modèle permettant à un tiers d'exercer un contrôle significatif sur les entrées, paramètres ou données d'entraînement, et que leurs revenus cumulés dépassent 20 millions de dollars sur douze mois consécutifs, elles doivent alors signer un accord commercial séparé avec Moonshot AI avant toute utilisation commerciale du logiciel ou de ses dérivés. Une restriction supplémentaire s'applique aux produits ou services commerciaux dépassant 100 millions d'utilisateurs actifs mensuels. Cette approche s'inscrit dans une tendance plus large des laboratoires chinois d'IA, qui misent sur l'ouverture des poids de leurs modèles pour gagner en influence face aux acteurs américains comme OpenAI ou Anthropic, tout en se ménageant des revenus auprès des plus gros acteurs commerciaux via des clauses de seuil. Kimi K3 succède à Kimi K2 et s'inscrit dans une compétition intense entre laboratoires chinois, notamment DeepSeek et Alibaba avec Qwen, pour dominer le segment des modèles ouverts de très grande taille. Pour les entreprises, l'enjeu sera désormais d'évaluer précisément si leur usage du modèle les fait basculer dans le champ d'application de cette licence hybride, à mi-chemin entre open source traditionnel et modèle commercial encadré.

UELes entreprises européennes qui exploiteraient Kimi K3 en mode API ou fine-tuning a grande échelle devront vérifier si leurs revenus dépassent 20 millions de dollars, seuil au-delà duquel un accord commercial sépare avec Moonshot AI devient obligatoire.

💬 Bon, cette fois Moonshot a compris un truc que Meta n'a jamais voulu admettre : "open" et "gratuit pour tout le monde" ce sont deux choses différentes. Filer les poids d'un modèle à 2,8 billions de paramètres, l'infra d'inférence complète et un rapport de 47 pages, c'est du sérieux, pas du marketing open source. Mais le vrai signal, c'est celui-là : dès que ton usage de Kimi K3 dépasse 20 millions de dollars de revenus ou 100 millions d'utilisateurs, l'open weight redevient un contrat commercial classique, c'est-à-dire que l'ouverture chinoise cible surtout les startups et chercheurs, pas les géants qui pourraient vraiment lui faire de l'ombre.

LLMsOpinion
1 source
Moonshot AI publie Kimi K2.7-Code : un modèle de code avec +21,8 % sur Kimi Code Bench v2 par rapport à K2.6
4MarkTechPost 

Moonshot AI publie Kimi K2.7-Code : un modèle de code avec +21,8 % sur Kimi Code Bench v2 par rapport à K2.6

Moonshot AI a publié cette semaine Kimi K2.7-Code, un nouveau modèle d'intelligence artificielle spécialisé dans la programmation et conçu pour des tâches d'ingénierie logicielle longues et complexes. Disponible sur Hugging Face sous licence MIT modifiée et accessible via l'API Kimi, le modèle repose sur une architecture Mixture-of-Experts avec 1 000 milliards de paramètres au total, dont 32 milliards activés par token. Il intègre 384 experts, une fenêtre de contexte de 256 000 tokens, et un encodeur visuel MoonViT de 400 millions de paramètres permettant de traiter texte, images et vidéos dans un même prompt. Le modèle pèse environ 595 Go sur disque, une cible clairement réservée aux serveurs, déployable via vLLM, SGLang ou KTransformers. Sur le Kimi Code Bench v2, il progresse de 50,9 à 62,0, soit une hausse de 21,8 % par rapport à son prédécesseur K2.6. Il surpasse également Claude Opus 4.8 sur le benchmark MCP Mark Verified (81,1 contre 76,4) et se rapproche de GPT-5.5 sur MLS Bench Lite. Ce qui distingue K2.7-Code des modèles de génération de code classiques, c'est sa capacité à enchaîner de nombreuses étapes autonomes : lire des fichiers, modifier du code sur plusieurs modules, exécuter des outils, puis vérifier les résultats jusqu'à correction. Moonshot revendique également une réduction d'environ 30 % de la consommation de tokens de raisonnement par rapport à K2.6, un gain qui se répercute directement sur les coûts dans les workflows agentiques où chaque étape de planification, de retry et de vérification est facturée comme des tokens de sortie. Pour les équipes qui utilisent ce type de modèle sur des centaines ou milliers de cycles, cet effet est significatif : coût unitaire plus bas, étapes plus rapides, et davantage de marge avant d'atteindre les limites de contexte. Le modèle est également intégré à Kimi Code, une plateforme de codage par abonnement. Kimi K2.7-Code s'inscrit dans une course intense entre laboratoires asiatiques et américains sur les modèles de codage agentique. Moonshot AI, startup chinoise fondée en 2023 et déjà connue pour ses modèles Kimi à très longue fenêtre de contexte, accélère sur ce segment en ciblant explicitement des cas d'usage professionnels : refactorisation à l'échelle d'un dépôt entier, revue de code sur de grandes pull requests, intégration CI/CD via le protocole MCP, et analyse combinée de logs, captures d'écran et code source. La contrainte du mode de raisonnement obligatoire, le désactiver provoque une erreur API, trahit une philosophie assumée : le modèle est pensé pour l'autonomie, pas pour la réponse instantanée. Face à GPT-5.5 et Claude Opus 4.8, K2.7-Code comble une partie de l'écart mais ne les dépasse pas sur la majorité des benchmarks, laissant ouverte la question de sa position réelle dans des conditions de production indépendantes.

💬 La réduction de 30 % des tokens de raisonnement, c'est le vrai chiffre à retenir ici, pas les benchmarks maison. Pour des workflows agentiques à l'échelle, ça change le calcul économique plus que n'importe quelle courbe de performance. 595 Go sur disque et le mode raisonnement non désactivable, ce sont deux signaux clairs : Moonshot construit pour les serveurs, pas pour les makers.

LLMsOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic