Mistral Small 4, GPT‑5.4 mini et nano : deux approches pour les « petits » modèles

Mistral et OpenAI ont chacun dévoilé cette semaine leur stratégie pour les modèles compacts de nouvelle génération. Là où OpenAI mise sur la distillation pour produire des versions mini et nano de son GPT-5.4, Mistral adopte une architecture radicalement différente avec son nouveau Small 4, basé sur une Mixture of Experts (MoE). Deux philosophies, un même objectif : des modèles plus rapides et significativement moins coûteux à l'inférence.

Le lancement de Mistral Small 4 représente une étape importante pour la startup française, qui ambitionne de fusionner dans un seul modèle les capacités jusqu'ici dispersées entre ses différents produits phares. Ce modèle unifie le raisonnement avancé de Magistral, les capacités multimodales de Pixtral et l'expertise code de Devstral — une consolidation qui simplifie l'offre tout en élargissant les cas d'usage. Sa publication en open source sous licence Apache 2.0 renforce la position de Mistral comme alternative européenne crédible face aux géants américains.

Sur le plan technique, Small 4 repose sur une architecture MoE intégrant 128 experts, dont seulement 4 sont activés pour chaque token traité. Le modèle totalise 119 milliards de paramètres, mais n'en mobilise que 6 milliards (8 milliards avec les couches d'intégration et de sortie) lors de l'inférence — ce qui explique ses performances en latence et en coût. Mistral rejoint par ailleurs la NVIDIA Nemotron Coalition, un signal fort d'intégration dans l'écosystème matériel dominant.

Cette double actualité illustre la bataille que se livrent les laboratoires sur le segment des modèles légers, désormais perçus comme le terrain de jeu le plus stratégique : suffisamment puissants pour les usages professionnels, assez économiques pour une adoption massive. La compétition entre distillation (OpenAI) et MoE (Mistral) sera un marqueur technique clé de 2026.