Aller au contenu principal
InfrastructureVentureBeat AI · 2 min de lecture

Weka lance une plateforme de stockage qui met en cache tous les tokens précalculés d'un modèle IA, pour réduire le besoin en GPU

Source originale ↗·

La société de stockage Weka a lancé NeuralMesh 6, une nouvelle plateforme logicielle accompagnée de sa première ligne de matériel conçue en interne, baptisée Wekapod 3. Cette version étend l'approche "Augmented Memory Grid" de l'entreprise, qui agrège de la mémoire flash NAND pour qu'elle se comporte comme de la mémoire GPU, à une fraction du coût. Selon Liran Zvibel, cofondateur et PDG de Weka, les clients actuels courent avant tout après la disponibilité du calcul : dès qu'ils obtiennent une nouvelle allocation de GPU, ils veulent pouvoir l'exploiter immédiatement. NeuralMesh 6 ajoute quatre fonctions principales. La première combine des clusters composables offrant une isolation matérielle complète et une multi-location virtuelle via le tissu RDMA de Weka, capable de gérer plus de 1 000 locataires par cluster avec un provisionnement en moins de 30 minutes, soit jusqu'à 50 000 locataires pour un cluster regroupant 50 clusters composables. La deuxième unifie le stockage fichier et objet sur une même donnée physique, sans couche de traduction ni copie supplémentaire, une approche que Zvibel dit vouloir déployer chez des clouds GPU hors AWS comme Lambda, Nebius, G42 et CoreWeave, avec des performances environ cent fois supérieures au S3 classique et une tarification basée sur la capacité plutôt que sur les appels API. La troisième, une réplication centrée sur les métadonnées, rend un environnement de destination consultable avant même l'arrivée complète des données, réduisant un processus qui prenait auparavant des jours voire des semaines à environ une heure. La quatrième, AlloyFlash, mélange mémoire flash TLC rapide et QLC moins coûteuse au sein d'un même cluster pour router automatiquement les charges selon leur sensibilité à la latence.

L'enjeu est concret : mieux exploiter des investissements GPU coûteux, réduire les coûts d'inférence et accélérer le déploiement de nouvelles charges d'IA sans attendre des mois une capacité GPU supplémentaire. La technologie vise surtout les entreprises qui exploitent déjà l'IA à grande échelle ou anticipent une forte croissance d'usage, notamment celles qui déploient des copilotes internes, des agents de service client, des assistants de développement logiciel ou des systèmes de recherche documentaire à fenêtres de contexte longues. Les déploiements plus modestes, où l'utilisation des GPU n'est pas encore un facteur limitant, devraient en tirer un bénéfice moins immédiat.

Ce lancement s'inscrit dans un marché du stockage pour l'IA de plus en plus disputé, où Dell, NetApp, Pure Storage et VAST se sont tous repositionnés vers l'infrastructure IA au cours des deux dernières années. Weka cherche à se démarquer en affirmant avoir conçu sa plateforme spécifiquement pour ce moment, plutôt que de s'y être simplement adaptée après coup, alors que la mémoire GPU s'impose comme la ressource la plus rare et la plus chère de l'IA en production.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1NVIDIA AI Blog 

NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde

Voici l'article traduit et résumé. NVIDIA a annoncé la montée en production de sa plateforme Vera Rubin NVL72, déployée chez des partenaires majeurs comme CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure. La chaîne d'approvisionnement s'appuie sur plus de 350 sites industriels répartis dans 30 pays, ce que NVIDIA présente comme la chaîne logistique rack-scale la plus vaste et la plus mature jamais assemblée. Selon un premier benchmark de CoreWeave sur le modèle DeepSeek-R1, la plateforme atteint un débit dix fois supérieur par mégawatt comparé à la génération précédente Grace Blackwell NVL72. Le système repose sur une co-conception poussée de sept puces et cinq plateaux de rack, dont le nouveau CPU Vera doté d'un cœur Olympus offrant deux fois les performances mono-thread, trois fois la bande passante inter-cœurs et une latence mémoire réduite de 40% par rapport aux puces chiplet concurrentes. Côté réseau, l'interconnexion NVLink de sixième génération double le débit sur les charges complexes tout en réduisant la latence par trois, et le réseau Spectrum-X Ethernet, combiné aux commutateurs Spectrum-6 et aux SuperNIC ConnectX-9, apporte 60% de bande passante RDMA supplémentaire face aux solutions Ethernet standards. Cette avancée compte avant tout parce qu'elle s'attaque directement au principal goulot d'étranglement des centres de données d'intelligence artificielle actuels: la consommation électrique. En multipliant par dix le débit par mégawatt, NVIDIA permet aux opérateurs de data centers de traiter davantage de requêtes sans construire de nouvelles centrales ou étendre leurs capacités énergétiques, un enjeu critique alors que la demande en calcul explose. L'architecture sans câbles, ventilateurs ni tuyaux dans les plateaux de calcul réduit le temps d'assemblage de plusieurs heures à une seule minute, tandis que le refroidissement liquide fonctionnant à 45°C en entrée permet un fonctionnement sans réfrigérateur, économisant des millions de litres d'eau par mégawatt chaque année. Des géants comme SpaceX et Tesla figurent parmi les premiers à adopter les commutateurs Spectrum-6, signe que cette technologie dépasse le seul cadre du cloud pour toucher l'IA embarquée et les infrastructures propriétaires. Le contexte européen illustre l'ampleur stratégique de ce déploiement: mardi 21 juillet, NVIDIA a dévoilé un partenariat élargi entre Microsoft et Mistral AI, doté d'un accord pluriannuel évalué en milliards de dollars pour développer les infrastructures IA en Europe. Mistral ajoutera des milliers de GPU Vera Rubin à sa capacité de calcul, créant une plateforme partagée pour l'entraînement et le déploiement de modèles ouverts, tout en donnant aux gouvernements et industries régulées un contrôle accru sur leurs environnements. Cette initiative s'inscrit dans une compétition mondiale où les fabricants de puces cherchent à équiper les hyperscalers tout en répondant aux exigences de souveraineté numérique, un sujet particulièrement sensible en Europe. Avec NVLink Fusion ouvrant également son écosystème aux puces tierces, NVIDIA cherche à consolider sa position d'infrastructure de référence face à une concurrence croissante dans la course aux capacités de calcul IA.

UEMistral AI, entreprise française, va integrer des milliers de GPU Vera Rubin grace a un accord pluriannuel avec Microsoft, renforçant les capacites de calcul IA en Europe et la souverainete numerique des secteurs regules.

InfrastructureActu
1 source
Google lance ses puces TPU 8, trois fois plus puissantes, pour accélérer l'entraînement IA et réduire les coûts cloud
2Interesting Engineering 

Google lance ses puces TPU 8, trois fois plus puissantes, pour accélérer l'entraînement IA et réduire les coûts cloud

Google a dévoilé la huitième génération de ses Tensor Processing Units lors de la conférence Google Cloud Next, en introduisant deux puces d'IA distinctes : la TPU 8t, dédiée à l'entraînement des modèles, et la TPU 8i, optimisée pour l'inférence. La TPU 8t peut s'étendre jusqu'à 9 600 puces dans un seul superpod, atteignant 121 exaflops de puissance de calcul, soit près de trois fois les performances de la génération précédente, baptisée Ironwood. Elle vise un taux de "goodput" supérieur à 97 %, c'est-à-dire un temps de calcul productif maximisé, limitant les pauses dues aux pannes ou aux goulots d'étranglement. La TPU 8i, quant à elle, embarque 288 Go de mémoire haute bande passante et 384 Mo de SRAM on-chip, et affiche une amélioration de 80 % du rapport performance/dollar par rapport à la génération précédente, permettant de traiter presque deux fois plus de charge à coût équivalent. Les deux puces seront disponibles en accès général via Google Cloud d'ici la fin de l'année. Cette annonce marque une rupture dans la façon dont l'industrie conçoit l'infrastructure IA. En séparant les cas d'usage entraînement et inférence en deux architectures matérielles distinctes, Google reconnaît que les charges de travail modernes ont des profils radicalement différents. Les agents IA, qui enchaînent des raisonnements, appellent des outils et interagissent en boucle avec d'autres modèles, exigent des temps de réponse très courts et une mémoire rapide proche du processeur, ce que la TPU 8i cible directement. Pour les entreprises clientes, le gain de performance par dollar est concret : gérer deux fois plus d'utilisateurs simultanés sans augmenter la facture cloud change l'équation économique du déploiement de modèles à grande échelle. Google développe ses TPU depuis 2016 pour ses propres systèmes internes, dont Gemini, mais les ouvre désormais plus largement aux clients cloud face à une demande explosive en calcul IA. La stratégie est claire : offrir une alternative intégrée à l'écosystème Nvidia en combinant silicium propriétaire, réseaux personnalisés, frameworks logiciels et services cloud en un seul stack. Les deux puces supportent JAX, PyTorch, SGLang et vLLM, abaissant la barrière à la migration pour les développeurs. Sur le plan énergétique, les TPU 8 offrent jusqu'à deux fois plus de performance par watt que la génération Ironwood et utilisent un refroidissement liquide de quatrième génération. La bataille pour l'infrastructure IA de prochaine génération s'intensifie, avec Google, Microsoft, Amazon et Meta qui investissent massivement dans leurs propres puces pour réduire leur dépendance à Nvidia tout en contrôlant les coûts d'exploitation à long terme.

UELes entreprises européennes déployant des modèles IA sur Google Cloud pourraient bénéficier d'une réduction significative de leurs coûts d'inférence grâce au gain de 80 % du rapport performance/dollar annoncé pour les TPU 8i.

InfrastructureOpinion
1 source
Microsoft lance le Surface RTX Spark Dev Box pour faire tourner de grands modèles IA sans recourir au cloud
3VentureBeat AI 

Microsoft lance le Surface RTX Spark Dev Box pour faire tourner de grands modèles IA sans recourir au cloud

Microsoft a dévoilé lundi le Surface RTX Spark Dev Box lors de la conférence Build 2026, un ordinateur de bureau compact destiné aux développeurs de logiciels qui souhaitent faire tourner de grands modèles d'intelligence artificielle en local, sans passer par le cloud. La machine embarque le nouveau processeur RTX Spark d'Nvidia, basé sur l'architecture Blackwell, et dispose de 128 gigaoctets de mémoire unifiée partagée dynamiquement entre le CPU et le GPU. Cette configuration permet d'atteindre un pétaflop de puissance de calcul IA, ce qui autorise l'exécution de modèles dépassant 120 milliards de paramètres sans envoyer la moindre requête vers un serveur distant. Pavan Davuluri, vice-président exécutif de Windows et Devices chez Microsoft, a précisé que la mémoire joue un rôle critique : à 100 000 tokens de contexte, le cache clé-valeur d'un grand modèle peut à lui seul consommer entre 40 et 50 gigaoctets, ce qui explique le choix de ce pool mémoire de 128 Go. L'appareil sera commercialisé exclusivement sur Microsoft.com aux États-Unis d'ici la fin de l'année, sans prix annoncé à ce stade. L'enjeu est directement économique. Les entreprises de toutes tailles font face à des factures cloud GPU qui s'accumulent de façon imprévisible : chaque appel d'inférence, chaque cycle de fine-tuning, chaque workflow agentique qui itère sur un modèle frontier génère des coûts qui s'emballent pour un développeur testant son prototype des dizaines de fois par jour. Andrew Hill, vice-président de Surface, a résumé la promesse dans le billet d'annonce : le Dev Box "change l'équation" en permettant aux équipes de "réserver les appels aux modèles frontier aux vrais problèmes frontier, et de traiter le reste sur leur propre matériel." La proposition n'est pas que le cloud soit dépassé, mais qu'une large partie des tâches actuellement envoyées à des datacenters distants ne justifie pas des modèles de pointe et serait mieux servie par du matériel local à coût fixe et prévisible. Ce lancement marque un tournant stratégique notable pour Microsoft, dont Azure génère plusieurs dizaines de milliards de dollars de revenus annuels. En commercialisant explicitement un appareil qui réduit la dépendance au cloud de ses propres clients, l'entreprise reconnaît une tension structurelle qui monte dans l'industrie depuis l'explosion des coûts d'inférence. Le pari de Redmond est que les développeurs qui prototypent en local déploieront ensuite sur Azure lorsqu'ils auront besoin de passer à l'échelle, et que contrôler les deux extrémités de ce cycle de développement est plus rentable que de n'en posséder qu'une. L'architecture RTX Spark, qui fusionne CPU ARM et GPU Blackwell en un seul chip avec mémoire unifiée, remplace quatre composants distincts d'un PC classique et ouvre la voie à une nouvelle génération de postes de travail IA autonomes.

InfrastructureOpinion
1 source
Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement
4The Information AI 

Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement

Google prépare une nouvelle puce serveur qui intégrerait directement l'architecture de son modèle d'intelligence artificielle Gemini, afin de faire fonctionner ses modèles de façon beaucoup plus efficace, selon deux personnes proches du dossier. Ce processeur, surnommé en interne "Frozen v2", vise à répondre à une pénurie importante de capacité de calcul IA, une situation qui a généré des tensions internes chez Google et contraint Google Cloud à refuser des contrats avec des clients externes. Les équipes travaillant sur ce projet estiment que la puce pourrait être six à dix fois plus efficace que la dernière génération de puces IA maison de Google, mesurée en nombre de tokens (l'unité de base de consommation d'un modèle d'IA) traités par unité d'énergie consommée. Cette avancée serait déterminante pour l'activité cloud de Google, confrontée à une demande croissante qu'elle peine actuellement à satisfaire. Une puce nettement plus économe en énergie permettrait de servir davantage d'utilisateurs et d'entreprises clientes sans multiplier les investissements en infrastructure, tout en réduisant les coûts d'exploitation liés à l'IA. Cela renforcerait aussi la position de Google face à ses concurrents dans la course aux semi-conducteurs spécialisés, où la disponibilité de puces performantes est devenue un facteur clé de compétitivité. Ce projet s'inscrit dans la lignée des puces maison de Google, conçues depuis plusieurs années pour réduire sa dépendance aux fabricants externes comme Nvidia. La spécificité de "Frozen v2" est d'intégrer directement le modèle Gemini dans la conception matérielle, une approche de co-conception censée maximiser les gains d'efficacité. Cette pénurie de capacité de calcul touche l'ensemble du secteur, où Google, Microsoft, Amazon et OpenAI se disputent des ressources limitées pour entraîner et déployer leurs modèles à grande échelle.

UELes entreprises europeennes clientes de Google Cloud pourraient beneficier indirectement d'une meilleure disponibilite de capacite de calcul IA si cette puce reduit la penurie actuelle.

InfrastructureActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic