Kimi K3.1 Pro est désormais disponible sur Amazon Bedrock
Amazon Web Services a annoncé la disponibilité de Kimi K3.1 Pro Highspeed, le modèle de Moonshot AI, sur Amazon Bedrock. Appartenant à la nouvelle série K3.1, il s'agit d'une version post-entraînée de Kimi K3, qui conserve la même architecture à poids ouverts de l'ordre de 3 000 milliards de paramètres et une fenêtre de contexte d'un million de jetons, mais a bénéficié d'une puissance de calcul de post-entraînement nettement supérieure. Selon Moonshot AI, cet effort vise les tâches agentiques de longue durée et une réduction des erreurs factuelles, avec des gains sur des travaux professionnels comme la modélisation financière et les documents bureautiques, ainsi que sur le code pour les moteurs de jeu, les scènes 3D et les scripts de CAO. La variante Highspeed génèrerait ses jetons de sortie deux à trois fois plus vite que Kimi K3.1 Pro. Elle prend en charge l'appel d'outils, les sorties structurées, le raisonnement configurable, les images en entrée et le streaming.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
Pour les équipes qui utilisent déjà Kimi K3 sur Bedrock, la migration se résume à changer l'identifiant du modèle, puisque le point d'accès, les API et les fonctions restent identiques. Le modèle est accessible via les API Chat Completions et Responses compatibles OpenAI, ainsi que via les API Converse et Invoke de Bedrock, AWS recommandant Chat Completions. Trois profils d'inférence inter-régions sont proposés : le profil global, recommandé pour la plupart des charges et moins cher par jeton, un profil américain et un profil indien pour les exigences de résidence des données. Le modèle raisonne toujours avant de répondre et le paramètre reasoning_effort (low, high ou max, ce dernier étant la valeur par défaut) permet de réduire latence et consommation de jetons sur les tâches simples. Côté sécurité, les données restent dans le périmètre AWS, ne sont pas transmises à Moonshot AI ni utilisées pour l'entraînement, et la rétention zéro est toujours activée, sans accès des opérateurs aux requêtes et réponses.
L'essai peut se faire sans code dans le terrain de jeu de la console Bedrock, ou depuis Python avec le SDK OpenAI, la bibliothèque aws-bedrock-token-generator, qui produit un jeton temporaire dérivé des identifiants AWS, et boto3, à partir de Python 3.11. Les identités IAM doivent être autorisées à appeler bedrock:InvokeModel et bedrock:InvokeModelWithResponseStream, plus bedrock:CallWithBearerToken en cas d'authentification par jeton. Cette arrivée s'inscrit dans la stratégie d'AWS d'élargir son catalogue de modèles tiers à poids ouverts et de s'adresser aux développeurs d'agents et d'assistants de code. AWS indique que son guide couvre aussi la réduction des coûts avec le niveau Flex, la mise en cache explicite des invites pour les contextes répétés et l'usage du modèle comme assistant de programmation dans OpenCode.
Les développeurs européens n'ont pas de profil d'inférence régional dédié à l'UE pour ce modèle, seuls les profils global, américain et indien étant proposés.