Guide de codage pour Cactus Whistle : un modèle vocal de 16,9 Mo face à Whisper Base (taux d'erreur, vitesse, streaming, horodatage, mots-clés et appels d'outils vocaux sur CPU)
Cactus Compute propose Whistle, un modèle de reconnaissance vocale de 16,9 Mo qui tourne sur simple processeur, transcrit sept langues et renvoie les horodatages des mots ainsi que leurs probabilités. Un tutoriel de code le soumet à un banc d'essai face à Whisper tiny et Whisper base, sur des extraits identiques tirés au hasard avec graine fixe dans les jeux LibriSpeech test-clean et test-other. Les écarts sont jugés par intervalles appariés par groupes de locuteurs, avec correction de Holm. Résultat : Whistle devance Whisper base en décodage glouton sur test-other, mais l'écart n'est pas significatif face à Whisper base avec recherche par faisceau. Son avantage de vitesse se réduit à mesure que les extraits s'allongent. Les auteurs ont aussi découvert que, dans la version figée du moteur, une fenêtre de 30 secondes fait disparaître silencieusement le milieu des audios plus longs. Ils testent en outre la latence en flux continu, les horodatages, le biaisage par mots-clés, les autres langues, le bruit, les embeddings et la conversion de la parole en appels d'outils.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Pour les développeurs d'applications embarquées ou hors ligne, l'enjeu est de savoir si un modèle aussi léger peut réellement remplacer Whisper là où mémoire et énergie sont comptées. L'étude nuance l'argument publicitaire : l'avantage annoncé sur LibriSpeech tient face à un décodage glouton, mais pas face à une configuration plus coûteuse de Whisper. Le défaut des 30 secondes est un risque concret, car une transcription tronquée sans message d'erreur peut passer inaperçue en production. Les chiffres restent des mesures uniques sur un Apple M4, et les résultats complets publiés sur les jeux entiers sont cités, pas remesurés. Ils indiquent une tendance, pas un verdict définitif.
Ce travail s'inscrit dans la course aux modèles vocaux compacts, qui visent le téléphone, l'objet connecté et le robot plutôt que le serveur. Cactus Compute relie Whistle à son écosystème, notamment le moteur de la bibliothèque cactus-needle (version 3.2.0 du paquet, moteur en 3.3.0) et Needle 3, un modèle de 35 Mo utilisé pour transformer une phrase dictée en appel d'outil. Les poids et le moteur sont hébergés sur Hugging Face, dans des dépôts dont les fichiers sont remplacés sur place : de nouveaux binaires ont été publiés le 10 octobre 2026. Le tutoriel fige donc chaque révision par son identifiant, affiche les empreintes et désactive la télémétrie anonyme pour que l'expérience soit reproductible. La suite dépendra de la correction du défaut des fenêtres de 30 secondes et de la confirmation des résultats sur d'autres machines et sur les jeux de données complets.
Pas d'impact direct sur la France/UE