NVIDIA publie Nemotron 3.5 Bolt E4B 4GB, un petit modèle de langage ouvert pour agents vocaux, personnages de jeux et robots en local
NVIDIA a publié Nemotron 3.5 Bolt E4B 4GB, un petit modèle de langage ouvert conçu pour des agents conversationnels rapides qui tournent en local, sur des cartes GeForce RTX, des modules Jetson, RTX Spark et DGX Spark. Il est post-entraîné à partir de Gemma 4 E4B de Google, uniquement par apprentissage par renforcement. Le modèle compte 8 milliards de paramètres au total, dont 4 milliards effectifs, avec un contexte de 64K. Dans les tests de NVIDIA, la version quantifiée Q4KM occupe entre 3,1 et 4,3 Go de VRAM sur RTX. Selon les mesures du constructeur, il obtient le meilleur score sur 15 des 21 benchmarks face à Gemma 4 E4B, Qwen3.5-4B et Nemotron 3 Nano 4B. Son meilleur résultat est 84,8 sur IHEval, contre 67,0 pour Gemma 4 E4B et 60,6 pour Qwen3.5-4B. Son point faible est Tau2-Bench, où il obtient 55,1, soit environ 20 points derrière Qwen3.5-4B (75,1). NVIDIA annonce aussi environ 40 % de score moyen en plus que Nemotron 3 Nano 4B et jusqu'à 80 % de tokens de sortie en moins en mode raisonnement. Scale Labs le classe premier parmi les petits modèles sur MultiChallenge, avec 56,03 %.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'intérêt tient à l'empreinte mémoire. Avec environ 4 Go de VRAM, le modèle offre un comportement d'agent complet tout en laissant de la place aux modèles de parole et de vision. NVIDIA vise trois usages : assistants vocaux et d'appareils, personnages interactifs, agents embarqués ou industriels. Une démonstration montre un robot Reachy Mini piloté par un Jetson Orin Nano 8 Go, où Cosmos 3 Edge gère la vision pendant que Bolt produit les réponses vocales et les appels d'outils. Le modèle gère les appels d'outils multi-tours, avec des consignes pour les appels asynchrones. Un drapeau conversational_mode produit des réponses courtes, prêtes à être lues à voix haute. Le raisonnement est configurable, avec un budget de réflexion à l'exécution pour plafonner la latence. Côté vitesse, sur une RTX 5070, Bolt associé à son drafter DFlash de décodage spéculatif atteint 272,6 tokens par seconde, contre 225,9 pour Gemma 4 E4B avec son drafter MTP, soit un gain de 1,21 fois.
Le contexte éclaire la méthode. NVIDIA a renoncé au réglage fin supervisé, car celui-ci améliorait les appels d'outils mais dégradait la qualité conversationnelle et augmentait la verbosité de Gemma. L'équipe a utilisé RLVR et RLHF via NeMo-RL et NeMo-Gym. Chaque échantillon était entraîné en modes raisonnement et sans raisonnement, avec un ratio de 2 pour 1 en faveur du second dans chaque lot. Des pénalités de longueur dans l'environnement GenRM ont empêché les réponses de s'allonger. Pour le déploiement, le checkpoint BF16 a été quantifié en Q4KM avec calibration par matrice d'importance, à partir d'environ 1 million de tokens issus des rollouts d'apprentissage par renforcement. Les jeux de données et la recette complète sont publics. Bolt est présenté comme la troisième génération de petits modèles pour les personnages de jeux NVIDIA ACE. Les scores publiés viennent du banc d'essai NeMo-Gym de NVIDIA, au format BF16, et peuvent différer de ceux obtenus par d'autres évaluateurs.
Pas d'impact direct sur la France/UE