27 milliards de paramètres dans 5,9 Go : l’IA chinoise géante qui tourne sur Mac et iPhone
PrismML, une startup américaine, a publié un nouveau modèle d'intelligence artificielle baptisé Ternary Bonsai 2 27B. Il compte 27 milliards de paramètres mais ne pèse que 5,9 Go grâce à une compression très poussée, ce qui lui permet de fonctionner directement sur un smartphone ou un simple ordinateur de bureau, sans passer par un serveur distant. Ce modèle s'appuie sur Qwen3.8 27B, un modèle chinois, et PrismML affirme en conserver 98,2 % des performances malgré cette réduction drastique de taille.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Frandroid. Lire l'article original →
Cette annonce illustre une tendance de fond : rendre des modèles d'IA puissants exécutables localement, sur des appareils grand public, sans dépendre du cloud. Pour les utilisateurs, cela signifie des réponses plus rapides, un fonctionnement possible hors connexion et une meilleure confidentialité des données, puisque rien n'est envoyé vers des serveurs externes. Pour l'industrie, c'est une avancée significative dans la course à l'IA embarquée, un enjeu majeur pour Apple, Google et les fabricants de smartphones qui cherchent à intégrer des assistants IA performants directement dans leurs appareils, sans les coûts d'infrastructure et les risques liés aux serveurs cloud.
Ce développement s'inscrit dans un mouvement plus large de compression des grands modèles de langage, via des techniques de quantification poussées jusqu'à des représentations ternaires des poids du réseau, qui permettent de diviser la taille par dizaines sans sacrifier trop de qualité. Il illustre aussi la place croissante des modèles ouverts chinois, comme la famille Qwen d'Alibaba, désormais utilisés comme base par des startups occidentales pour construire leurs propres produits. Cette dépendance croissante aux modèles open source chinois soulève des questions stratégiques pour l'écosystème américain de l'IA, encore dominé officiellement par OpenAI, Google ou Anthropic.
Pas d'impact direct sur la France/UE