Quelqu'un a affiné MiniCPM5-1B d'OpenBMB sur des traces de Claude Fable 5 pour un modèle de raisonnement local de 657 Mo
Un développeur communautaire connu sous le pseudonyme GnLOLot a publié un modèle de langage d'un milliard de paramètres capable de fonctionner entièrement en local, sans clé API ni appel vers le cloud. Baptisé MiniCPM5-1B-Claude-Opus-Fable5-Thinking, il est distribué au format GGUF pour les moteurs compatibles llama.cpp. Il s'appuie sur MiniCPM5-1B, un modèle de base publié par le laboratoire chinois OpenBMB, doté de 1,08 milliard de paramètres, d'une architecture LlamaForCausalLM classique à 24 couches avec attention par groupes de requêtes, et d'une fenêtre de contexte de 131 072 tokens. OpenBMB revendique déjà le meilleur score open source de sa catégorie sur ce modèle de base, qui intègre nativement un mode de raisonnement activable via le paramètre enablethinking, offrant un choix entre mode "Think" et mode "No Think". GnLOLot a ensuite affiné ce socle sur des données issues de Fable 5, le modèle Claude d'Anthropic, dans le but d'améliorer les capacités de codage et de suivi d'instructions. Le paquet GGUF propose quatre niveaux de quantification : Q4KM autour de 657 Mo, Q5KM autour de 751 Mo, Q80 autour de 1,1 Go recommandé par défaut, et F16 autour de 2,1 Go. Le modèle s'installe directement via Ollama, llama.cpp, LM Studio, Jan ou KoboldCpp, avec une commande d'une ligne pour Ollama et des réglages d'échantillonnage suggérés de température 0,9 et top_p 0,95 en mode réflexion.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'enjeu de cette publication tient moins à ses performances qu'à ce qu'elle révèle sur les limites du fine-tuning léger appliqué à des traces générées par un grand modèle propriétaire. La méthode employée n'est pas une distillation classique au sens technique du terme, puisque personne n'a accès aux poids ni aux logits internes de Claude. Il s'agit en réalité d'un ajustement supervisé effectué sur des conversations et des raisonnements produits en sortie par le modèle Anthropic, puis utilisés comme données d'entraînement pour le petit modèle. Cette distinction compte : un modèle d'un milliard de paramètres ne peut pas absorber la capacité de raisonnement d'un modèle frontière, il ne peut qu'imiter son style de réponse et son format d'expression. Pour les utilisateurs et développeurs qui cherchent des outils légers et embarquables, cela signifie que le modèle peut sembler produire des réponses au ton proche de Claude, sans pour autant en égaler la fiabilité ou la profondeur de raisonnement.
Cette initiative s'inscrit dans une tendance plus large de la communauté open source consistant à capturer le style de sortie des grands modèles fermés pour l'injecter dans des architectures compactes et gratuites. OpenBMB, de son côté, utilise une véritable distillation par politique entre ses propres modèles enseignant et élève, une approche méthodologiquement différente et documentée. Aucun benchmark ni jeu de données d'entraînement n'a été publié pour ce dérivé, ce qui rend les affirmations de performance actuellement invérifiables. La question reste également ouverte sur le plan juridique : la licence Apache 2.0 couvre les poids du modèle de base, mais l'entraînement sur des sorties générées par Claude soulève une interrogation sur les conditions d'utilisation qu'Anthropic impose à ses propres résultats, un point que la fiche du modèle laisse sans réponse.
Pas d'impact direct sur la France/UE
C'est pas de la distillation, c'est du copiage de style. Personne n'a accès aux poids ni aux logits de Claude, donc GnLOLot a juste entraîné son 1,08 milliard de paramètres à imiter le ton de Fable 5, pas sa capacité de raisonnement, et c'est toute la nuance que le nom du modèle fait oublier. Reste la question qu'on esquive à chaque fois dans ce genre de projet: entraîner un modèle sur les sorties d'un labo propriétaire sans base claire dans ses conditions d'utilisation, c'est un pari juridique déguisé en projet open source.