Aller au contenu principal
LLMsVentureBeat AI · 2 min de lecture

Le fil d'actualité de l'IA de LFM2.5-2.6B fonctionne sur Raspberry Pi, sans cloud ni GPU

Source originale ↗·

La startup Liquid AI, fondée en 2023 par d'anciens chercheurs du MIT, a dévoilé cette semaine LFM2.5-2.6B, un modèle de langage à poids ouverts conçu pour les tâches agentiques. Il compte 2,6 milliards de paramètres, gère une fenêtre de contexte de 128 000 tokens et intègre l'appel d'outils natif. Disponibles sur Hugging Face, la version post-entraînée et le checkpoint de base LFM2.5-2.6B-Base sont compatibles dès leur sortie avec llama.cpp, MLX, vLLM, SGLang et ONNX. Selon Liquid AI, le modèle atteint environ 220 tokens par seconde sur une puce Apple M5 Max, 113 tokens par seconde sur un processeur AMD Ryzen AI Max+ 395, en consommant moins de 2,5 Go de mémoire, et environ 30 tokens par seconde sur smartphone via l'application Apollo. Sur un GPU Nvidia H100, l'entreprise revendique près de 15 000 tokens par seconde, soit environ 1,3 milliard de tokens par jour et par carte, des chiffres non vérifiés de façon indépendante.

Sa particularité: fonctionner entièrement en local, sur smartphone, ordinateur portable ou même un Raspberry Pi, sans cloud ni GPU. Selon Maxime Labonne, responsable du post-entraînement chez Liquid AI, l'architecture LFM2 a été conçue autour des performances réelles sur CPU plutôt que sur les benchmarks GPU classiques. Cette approche ouvre l'IA en périphérie aux entreprises de secteurs régulés ou manipulant des données sensibles qu'elles refusent d'envoyer vers le cloud, et permet à toute entreprise de faire tourner des agents spécialisés au simple coût de l'électricité consommée. Le modèle vise les tâches agentiques à fort volume et bien définies: appel d'outils, gestion documentaire, automatisation d'agendas et de flux de travail, routines en arrière-plan, ainsi que les environnements à connectivité limitée comme les véhicules ou la robotique. Les tâches de programmation intensive restent, elles, réservées aux modèles plus volumineux.

Liquid AI ne présente pas LFM2.5-2.6B comme un concurrent des plus grands modèles frontières, mais défend l'idée qu'un petit modèle suffisamment performant peut ouvrir des usages d'entreprise où la latence, la confidentialité ou le coût d'inférence comptent plus que les scores de benchmarks. "Les meilleurs modèles resteront dans le cloud, et ce n'est pas un problème", a déclaré Maxime Labonne. "Nous voulons créer des modèles pour un autre type d'utilisateur: il faut utiliser l'IA en périphérie quand on ne peut pas utiliser un modèle cloud." Cette course aux modèles compacts est aussi portée par d'autres acteurs, comme Moonshot avec Kimi K3. Un point mérite l'attention des juristes: comme Kimi K3, LFM2.5-2.6B est distribué sous une licence de poids ouverts personnalisée, dont les termes devront être examinés avant tout déploiement commercial.

Impact France/UE

Le fonctionnement local sans cloud pourrait intéresser les entreprises européennes de secteurs régulés soumises à des exigences de souveraineté des données, mais aucune entité française ou européenne n'est directement concernée.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Le LFM2.5-230M de Liquid AI surpasse des modèles 4 fois plus grands en extraction de données et tourne partout
1VentureBeat AI 

Le LFM2.5-230M de Liquid AI surpasse des modèles 4 fois plus grands en extraction de données et tourne partout

Liquid AI, une startup fondée par d'anciens chercheurs du MIT, a lancé le 26 juin 2026 son modèle de langage le plus compact à ce jour : LFM2.5-230M. Avec seulement 230 millions de paramètres, ce modèle de fondation est conçu pour fonctionner directement sur les appareils, smartphones, ordinateurs portables, systèmes robotiques, sans connexion permanente au cloud. Malgré sa taille réduite, il surpasse à la tâche d'extraction de données des modèles jusqu'à quatre fois plus grands, notamment le Qwen3.5-0.8B d'Alibaba (800 millions de paramètres) et le Gemma 3 1B de Google (1 milliard de paramètres). Sur un Samsung Galaxy S25 Ultra équipé d'un Snapdragon Gen4, il atteint 213 tokens par seconde en décodage ; sur un Raspberry Pi 5, il maintient 42 tokens par seconde. Sa fenêtre de contexte de 32 000 tokens lui permet d'ingérer de longs documents ou des flux continus de données de télémétrie robotique. Son empreinte mémoire reste inférieure à 400 Mo. Le modèle est entraîné sur 19 000 milliards de tokens et proposé sous licence duale : gratuit pour les entreprises générant moins de 10 millions de dollars de revenus annuels, payant au-delà. Pour les équipes data et les développeurs d'applications embarquées, l'enjeu est concret. Les entreprises s'appuient encore largement sur des pipelines ETL (Extract, Transform, Load) rigides et basés sur des règles fixes, des systèmes qui se brisent dès qu'un document change de format ou qu'un schéma évolue. LFM2.5-230M ouvre la voie à un « AI ETL » capable d'inférer automatiquement les correspondances de données, de détecter les dérives de schéma et de structurer des sources non structurées, PDF, e-mails, formulaires web, en JSON sans intervention humaine. Ce type de flux agentique léger peut désormais s'exécuter localement, sans dépendance au cloud, ce qui réduit la latence, les coûts d'infrastructure et les risques liés à la confidentialité des données. Cette sortie illustre une fracture croissante dans l'industrie de l'IA. D'un côté, Anthropic, OpenAI, Google, Microsoft et Meta poussent leurs modèles vers des centaines de milliards, voire des milliers de milliards de paramètres pour atteindre les performances dites frontier. De l'autre, une course parallèle s'intensifie autour de l'efficience architecturale pour l'inférence locale. Liquid AI mise sur son architecture LFM2, un système hybride combinant convolutions à courte portée et mécanismes d'attention groupée, qui contourne les coûts quadratiques en mémoire des transformers classiques. Cette approche permet d'obtenir des vitesses d'inférence élevées sur du matériel contraint, là où les transformers purs s'essoufflent. Le positionnement de Liquid AI, efficience plutôt que mise à l'échelle brutale, pourrait séduire un segment d'entreprises que les géants du cloud peinent à servir : celles qui ont besoin d'IA performante sans exposer leurs données ni investir dans une infrastructure coûteuse.

LLMsOpinion
1 source
Google lance Gemma 4 12B open source : analyse audio et vidéo, fonctionne en local sur un PC de 16 Go
2VentureBeat AI 

Google lance Gemma 4 12B open source : analyse audio et vidéo, fonctionne en local sur un PC de 16 Go

Google a lancé ce mardi Gemma 4 12B, un modèle d'intelligence artificielle open source de 11,95 milliards de paramètres, publié sous licence Apache 2.0 et conçu pour fonctionner entièrement en local sur un ordinateur portable d'entreprise standard disposant de 16 Go de VRAM ou de mémoire unifiée. Disponible immédiatement en téléchargement gratuit sur Hugging Face et Kaggle, ainsi que via Google AI Edge Gallery, le modèle intègre une fenêtre de contexte de 256 000 tokens, un mode de raisonnement pas à pas, et des capacités natives d'appel de fonctions pour la construction d'agents autonomes. Sa particularité architecturale principale est une structure dite "Unifiée" sans encodeur séparé : les flux audio bruts et les données visuelles sont projetés directement dans l'espace d'embedding du modèle via de simples couches linéaires, le tout sans modules de traitement secondaires. L'encodeur visuel est remplacé par un module de seulement 35 millions de paramètres reposant sur une unique multiplication matricielle, et l'encodeur audio est supprimé entièrement. Cette approche change concrètement les conditions d'utilisation pour les équipes techniques en entreprise. En éliminant les encodeurs secondaires, Gemma 4 12B réduit la latence d'inférence multimodale et abaisse les besoins en mémoire à un seuil atteignable par des machines grand public. Pour les secteurs soumis à des contraintes réglementaires strictes comme la santé, la finance ou la défense, la possibilité de traiter localement des documents confidentiels, du code propriétaire ou des transcriptions de réunions sans envoyer ces données vers des API tierces représente un avantage décisif. Le modèle rivalise par ailleurs en performance avec le Gemma 26B Mixture-of-Experts de Google, malgré un gabarit bien inférieur, ce qui en fait un outil crédible pour des déploiements sans connexion réseau ou dans des environnements à fort niveau de sécurité. Cette publication s'inscrit dans une tendance de fond chez les grands acteurs de l'IA : proposer des modèles capables de tourner à la périphérie du réseau, là où les contraintes de coût, de latence ou de confidentialité rendent les solutions cloud insuffisantes. Alors que la plupart des laboratoires se concentrent sur la course aux modèles toujours plus grands, Google maintient un effort parallèle sur la gamme Gemma pour couvrir les usages embarqués et offline. L'intégration native du mode "thinking" et du tool use positionne Gemma 4 12B comme une base sérieuse pour construire des agents logiciels autonomes fonctionnant sans infrastructure cloud, un segment en pleine expansion à mesure que les entreprises cherchent à déployer l'IA sur des postes de travail isolés ou dans des environnements industriels contraints.

UELe traitement entièrement local sans transmission vers des serveurs tiers facilite la conformité RGPD pour les entreprises européennes des secteurs réglementés comme la santé et la finance.

💬 C'est le genre de truc qu'on attendait depuis 2 ans : un modèle multimodal qui tourne sur ta machine sans envoyer tes données chez Google. Supprimer les encodeurs séparés pour projeter audio et vidéo directement dans l'espace d'embedding, c'est pas du cosmétique, ça réduit la mémoire nécessaire à quelque chose d'atteignable sur du matériel grand public. Pour les boîtes en santé ou finance qui se battent avec le RGPD, t'as enfin une base sérieuse.

LLMsActu
1 source
GLM-5.2 : guide pratique de l'API compatible OpenAI, raisonnement, appels de fonctions et récupération longue durée
3MarkTechPost 

GLM-5.2 : guide pratique de l'API compatible OpenAI, raisonnement, appels de fonctions et récupération longue durée

Zhipu AI a mis à disposition une API hébergée pour son modèle GLM-5.2, entièrement compatible avec les clients OpenAI, permettant aux développeurs d'accéder au modèle sans avoir à l'exécuter localement. L'API est disponible via cinq fournisseurs distincts : la plateforme native z.ai, OpenRouter, Together AI, Requesty et HuggingFace, tous accessibles avec la bibliothèque Python openai standard. La tarification s'établit à 1,40 dollar par million de tokens en entrée et 4,40 dollars par million de tokens en sortie. Le modèle propose un contrôle fin du niveau de raisonnement via un paramètre reasoningeffort avec trois niveaux (désactivé, high, max), ainsi qu'un mode "thinking" qui expose la trace de raisonnement interne du modèle avant la réponse finale. Le tutoriel couvre l'ensemble du spectre fonctionnel : chat de base, raisonnement en streaming, appel de fonctions, agent à outils, sortie JSON structurée, récupération longue-contexte et estimation de coût à la volée. La compatibilité OpenAI de GLM-5.2 est sa proposition de valeur centrale : un développeur qui utilise déjà GPT-4o ou Claude via l'API d'Anthropic peut basculer vers GLM-5.2 en changeant uniquement l'URL de base et la clé API, sans réécrire son code. Le contrôle du niveau de raisonnement représente un avantage concret par rapport aux modèles qui imposent un mode de réflexion unique : les tâches simples peuvent être traitées rapidement et à moindre coût avec le mode désactivé, tandis que les problèmes complexes mobilisent la pleine capacité de raisonnement. L'exposition de la trace de pensée (reasoningcontent) dans la réponse est également utile pour le débogage ou pour construire des interfaces qui montrent le raisonnement du modèle à l'utilisateur final. GLM-5.2 s'inscrit dans la vague de modèles chinois à raisonnement avancé qui rivalisent désormais frontalement avec les offres américaines, notamment DeepSeek-R1 et Qwen de Alibaba, sur les benchmarks de raisonnement mathématique et logique. La décision de Zhipu AI de proposer une API compatible OpenAI reflète une stratégie d'adoption agressive : plutôt que de demander aux développeurs d'apprendre une nouvelle interface, le modèle s'intègre dans les outils existants. La disponibilité sur des agrégateurs comme OpenRouter et HuggingFace élargit encore l'accès, particulièrement en dehors de la Chine. À mesure que la concurrence entre fournisseurs de modèles s'intensifie, la compatibilité d'API et la transparence du raisonnement deviennent des critères de sélection aussi importants que les performances brutes sur les benchmarks.

💬 La vraie astuce de Zhipu, c'est pas le modèle lui-même, c'est la stratégie d'adoption. Un dev qui tourne sur GPT-4o ou Claude change deux lignes de code et c'est parti, sans réapprendre quoi que ce soit. On est en train de voir les modèles chinois prendre des parts de marché non pas sur les benchmarks, mais sur le confort de migration, et ça, c'est beaucoup plus redoutable que n'importe quel score MMLU.

LLMsTuto
1 source
La nouvelle fonctionnalité "Dreaming" de Claude permet aux agents IA d'apprendre de leurs erreurs
4The Decoder 

La nouvelle fonctionnalité "Dreaming" de Claude permet aux agents IA d'apprendre de leurs erreurs

Anthropic a annoncé l'ajout d'une fonctionnalité baptisée "Dreaming" à sa plateforme Claude Managed Agents. Ce processus asynchrone analyse les sessions passées des agents IA, élimine les entrées mémoire redondantes ou obsolètes, et en extrait de nouveaux apprentissages consolidés. La mise à jour s'accompagne de deux autres améliorations désormais en bêta publique : "Outcomes", qui permet aux agents d'enregistrer les résultats de leurs actions, et "Multiagent Orchestration", qui facilite la coordination entre plusieurs agents travaillant en parallèle. L'enjeu est significatif : jusqu'ici, les agents IA redémarraient chaque session sans capitaliser sur leurs erreurs précédentes, ce qui limitait leur utilité dans des workflows complexes et répétitifs. Avec "Dreaming", un agent peut désormais consolider ses expériences passées pendant les périodes d'inactivité, à la manière d'un processus de consolidation mémorielle, puis aborder ses prochaines tâches avec une base de connaissance plus fiable et épurée. Pour les entreprises déployant des agents autonomes sur des processus métier critiques, cela représente un gain concret en termes de fiabilité et de cohérence des résultats. Ces annonces s'inscrivent dans une course accélérée entre les grands laboratoires d'IA pour rendre les agents toujours plus autonomes et capables d'apprentissage continu. OpenAI, Google et Anthropic rivalisent sur ce terrain depuis plusieurs mois, chacun cherchant à résoudre l'un des défis centraux de l'IA agentique : la capacité à progresser sans intervention humaine entre deux sessions. En s'inspirant de mécanismes biologiques comme le rôle du sommeil dans la consolidation mémorielle, Anthropic tente de franchir un cap symbolique vers des agents véritablement apprenants.

UELes entreprises européennes déployant des agents Claude sur des workflows critiques pourront bénéficier d'une meilleure continuité mémorielle entre sessions, réduisant les erreurs répétitives sans intervention humaine.

💬 C'est le genre de truc qu'on attendait depuis deux ans : des agents qui ne repartent pas de zéro à chaque session. Le mécanisme de "Dreaming" (analyse des sessions passées, élimination des redondances, consolidation mémorielle pendant les temps creux) est franchement bien pensé. Bon, sur le papier c'est solide, reste à voir ce que ça donne en prod sur des workflows vraiment critiques.

LLMsOutil
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic