Aller au contenu principal
InfrastructureNVIDIA AI Blog · 2 min de lecture

L'IA augmente les besoins en mémoire, le stockage s'adapte

Source originale ↗·
L'IA augmente les besoins en mémoire, le stockage s'adapte
▶ Voir sur YouTube

Le nouveau format de puce dans les datacenters IA pousse les demandes de mémoire et de bande passante à un niveau que la simple augmentation de la capacité de stockage ne peut plus suivre. À l'occasion de la conférence Future of Memory and Storage (FMS) qui se tient cette semaine, NVIDIA a présenté une série d'avancées destinées à répondre à cette pression, portées notamment par sa puce Vera CPU, intégrée dans la plateforme NVIDIA Vera BlueField-4 STX. Selon des benchmarks publiés sur le blog technique de l'entreprise, cette puce offre un débit jusqu'à 3,21 fois supérieur à celui d'un CPU x86 classique dans un pipeline de compression et de chiffrement à deux étages. NVIDIA a également annoncé l'ouverture en open source de ses API cuFile, ainsi que la pile logicielle de stockage vertical sous-jacente, qui permettent aux GPU, et non plus seulement aux CPU, de lire et écrire directement sur le stockage. Ce composant, issu de la technologie GPUDirect Storage, exploite des centaines de milliers de threads GPU et une mémoire à large bande passante pour accéder aux données en quelques microsecondes seulement.

Cette évolution change fondamentalement la manière dont les infrastructures gèrent les données pour l'intelligence artificielle. Les agents IA génèrent désormais des volumes de requêtes considérables, les GPU pouvant désormais initier eux-mêmes des milliers d'opérations de stockage simultanées. Pour absorber ce flux, les systèmes doivent chiffrer, compresser, vérifier et reconstruire les données en continu, ce qui peut créer des goulots d'étranglement lorsque des milliers d'agents sollicitent le stockage en même temps. Avec Vera, NVIDIA affirme que les plateformes de stockage peuvent absorber ce déluge de données plus efficacement, avec un débit supérieur pour une infrastructure de calcul moindre. Concrètement, cela signifie que le stockage cesse d'être un simple espace passif où reposent les données pour devenir un maillon actif de la chaîne de traitement, redéfinissant l'arbitrage traditionnel entre mémoire rapide et stockage bon marché : un compromis qui se mesurait autrefois en minutes et qui se joue désormais en microsecondes.

Cette bascule s'inscrit dans un mouvement plus large de coordination industrielle. Les API cuFile, en devenant ouvertes, doivent favoriser l'interopérabilité entre constructeurs et renforcer la sécurité des accès aux données, un enjeu jugé essentiel pour les mécanismes de cyberdéfense préventive. Ces technologies ouvertes soutiennent notamment la nouvelle Open Secure AI Alliance, dont Google, Intel, NVIDIA et Meta sont les premiers contributeurs. Par ailleurs, NVIDIA pilote une initiative baptisée Storage-Next, réunissant plus de quarante fabricants de stockage et de mémoire flash, des concepteurs de contrôleurs, des spécialistes du refroidissement thermique et des organismes de normalisation, dans le but de définir des standards ouverts et interopérables pour le stockage piloté par GPU. Cette convergence entre fabricants de matériel et éditeurs de logiciels illustre la nécessité d'une co-conception étroite entre mémoire, stockage et calcul accéléré pour suivre le rythme de croissance des besoins de l'IA.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Weka lance une plateforme de stockage qui met en cache tous les tokens précalculés d'un modèle IA, pour réduire le besoin en GPU
1VentureBeat AI 

Weka lance une plateforme de stockage qui met en cache tous les tokens précalculés d'un modèle IA, pour réduire le besoin en GPU

La société de stockage Weka a lancé NeuralMesh 6, une nouvelle plateforme logicielle accompagnée de sa première ligne de matériel conçue en interne, baptisée Wekapod 3. Cette version étend l'approche "Augmented Memory Grid" de l'entreprise, qui agrège de la mémoire flash NAND pour qu'elle se comporte comme de la mémoire GPU, à une fraction du coût. Selon Liran Zvibel, cofondateur et PDG de Weka, les clients actuels courent avant tout après la disponibilité du calcul : dès qu'ils obtiennent une nouvelle allocation de GPU, ils veulent pouvoir l'exploiter immédiatement. NeuralMesh 6 ajoute quatre fonctions principales. La première combine des clusters composables offrant une isolation matérielle complète et une multi-location virtuelle via le tissu RDMA de Weka, capable de gérer plus de 1 000 locataires par cluster avec un provisionnement en moins de 30 minutes, soit jusqu'à 50 000 locataires pour un cluster regroupant 50 clusters composables. La deuxième unifie le stockage fichier et objet sur une même donnée physique, sans couche de traduction ni copie supplémentaire, une approche que Zvibel dit vouloir déployer chez des clouds GPU hors AWS comme Lambda, Nebius, G42 et CoreWeave, avec des performances environ cent fois supérieures au S3 classique et une tarification basée sur la capacité plutôt que sur les appels API. La troisième, une réplication centrée sur les métadonnées, rend un environnement de destination consultable avant même l'arrivée complète des données, réduisant un processus qui prenait auparavant des jours voire des semaines à environ une heure. La quatrième, AlloyFlash, mélange mémoire flash TLC rapide et QLC moins coûteuse au sein d'un même cluster pour router automatiquement les charges selon leur sensibilité à la latence. L'enjeu est concret : mieux exploiter des investissements GPU coûteux, réduire les coûts d'inférence et accélérer le déploiement de nouvelles charges d'IA sans attendre des mois une capacité GPU supplémentaire. La technologie vise surtout les entreprises qui exploitent déjà l'IA à grande échelle ou anticipent une forte croissance d'usage, notamment celles qui déploient des copilotes internes, des agents de service client, des assistants de développement logiciel ou des systèmes de recherche documentaire à fenêtres de contexte longues. Les déploiements plus modestes, où l'utilisation des GPU n'est pas encore un facteur limitant, devraient en tirer un bénéfice moins immédiat. Ce lancement s'inscrit dans un marché du stockage pour l'IA de plus en plus disputé, où Dell, NetApp, Pure Storage et VAST se sont tous repositionnés vers l'infrastructure IA au cours des deux dernières années. Weka cherche à se démarquer en affirmant avoir conçu sa plateforme spécifiquement pour ce moment, plutôt que de s'y être simplement adaptée après coup, alors que la mémoire GPU s'impose comme la ressource la plus rare et la plus chère de l'IA en production.

InfrastructureActu
1 source
SK Hynix en Bourse aux États-Unis : la mémoire HBM devient le nouvel or noir de l’IA
2Le Big Data 

SK Hynix en Bourse aux États-Unis : la mémoire HBM devient le nouvel or noir de l’IA

SK Hynix a déposé une demande de cotation aux États-Unis visant à lever environ 28 milliards de dollars, soit près de 43 000 milliards de wons, selon des documents réglementaires cités par Reuters. L'opération porte sur 17,79 millions de nouvelles actions représentées par des certificats de dépôt négociés au Nasdaq. Plusieurs grands investisseurs ont déjà manifesté un intérêt qui pourrait atteindre 7 milliards de dollars. Ce serait l'une des plus importantes levées de fonds mondiales par émission d'actions de l'année. Le groupe coréen s'est imposé comme un fournisseur clé de mémoire à large bande passante, la HBM, utilisée dans les infrastructures d'intelligence artificielle de Nvidia et de Google. Les capitaux récoltés doivent financer la construction de nouvelles usines en Corée du Sud ainsi que l'achat d'équipements de fabrication de puces de pointe, dont des systèmes de lithographie ultraviolette extrême produits par ASML. L'action SK Hynix affiche une progression d'environ 260% depuis le début de l'année 2026, portée par l'essor de la demande en IA malgré la volatilité récente des valeurs du secteur mémoire. Cette opération illustre un basculement stratégique dans l'industrie de l'IA, où la puissance de calcul des processeurs ne suffit plus à elle seule. Pour entraîner et exécuter de grands modèles, les accélérateurs doivent déplacer d'énormes volumes de données à très grande vitesse, et c'est précisément ce que permet la HBM en rapprochant plusieurs couches de mémoire pour démultiplier la quantité de données accessible aux processeurs. Ce composant est devenu aussi stratégique que difficile à remplacer, au point que les clients cherchent désormais à sécuriser leurs approvisionnements sur plusieurs années. Pour les entreprises qui investissent massivement dans l'IA, le coût d'une infrastructure ne dépend plus seulement du nombre de GPU achetés : la disponibilité de la mémoire, son débit et sa capacité à alimenter les accélérateurs pèsent directement sur le prix et le calendrier des projets de data centers. Cette envolée s'inscrit dans un contexte de tensions plus larges sur le marché mondial de la mémoire. La concentration des investissements sur les produits HBM les plus avancés tend l'équilibre sur d'autres segments, la demande des data centers stimulant aussi la DRAM pour serveurs et les solutions NAND destinées au stockage d'entreprise, ce qui a déjà fait grimper les prix des puces mémoire et commence à affecter d'autres marchés, des smartphones aux PC. Face à ces enjeux, Séoul a dévoilé un programme de 576 milliards de dollars consacré aux semi-conducteurs, signe que la Corée du Sud considère désormais la chaîne d'approvisionnement en mémoire comme un enjeu de souveraineté industrielle autant que commercial, dans une course mondiale où Samsung et Micron cherchent eux aussi à accélérer leurs propres capacités de production HBM.

InfrastructureActu
1 source
Les agents IA ont besoin de contexte partout, même là où le cloud ne peut pas les suivre
3VentureBeat AI 

Les agents IA ont besoin de contexte partout, même là où le cloud ne peut pas les suivre

Couchbase a annoncé mardi son AI Data Plane, une plateforme opérationnelle unifiée qui combine mémoire persistante pour agents IA, récupération de contexte en temps réel et serveur MCP géré en entreprise. L'annonce positionne la société comme un acteur central dans la bataille pour le contrôle du contexte des agents IA en entreprise, un terrain où s'affrontent déjà des géants comme Databricks, AWS et Redis. L'AI Data Plane regroupe trois composants : une couche de persistance unifiée pour le contexte conversationnel, les données opérationnelles structurées et les embeddings vectoriels ; un serveur MCP auto-géré livré nativement dans la plateforme ; et un catalogue d'outils agents appelé Agent Catalog. La plateforme tourne de manière identique sur le cloud, en on-premises et dans des environnements edge déconnectés, grâce à Couchbase Lite, le moteur embarqué qui exécute SQL, recherche plein texte et recherche vectorielle localement sans connexion réseau. L'enjeu concret est celui de l'efficacité opérationnelle et de la souveraineté des données. Pour les secteurs réglementés, les déploiements industriels ou le retail en mobilité, l'impossibilité d'envoyer des données vers le cloud n'est pas un détail technique mais une contrainte légale ou physique. En cachant le contexte partagé localement, la plateforme évite que chaque agent récupère et traite les mêmes données indépendamment, réduisant la consommation de tokens pour les sessions concurrentes. Couchbase cite l'exemple concret d'une chaîne hôtelière où plusieurs agents servent simultanément des clients, chacun puisant dans un contexte local via recherche vectorielle on-device, la mémoire de session se synchronisant ensuite de manière bidirectionnelle vers le cloud dès que la connectivité est rétablie. Agora, une plateforme d'intégration d'IA conversationnelle pour les entreprises, utilise Couchbase en production depuis février 2024. Couchbase arrive à ce problème avec une architecture distincte : la société était un système de cache avant de devenir une base de données, ce que son CTO Gopi Duddi présente comme un avantage structurel. Écrire en mémoire est dix fois plus rapide qu'écrire sur disque, argue-t-il, séparant Couchbase des bases NoSQL qui superposent des workloads mémoire sur un stockage disque. Redis, qui partage ces racines dans le cache, a également annoncé récemment une couche de contexte pour agents IA, mais Duddi souligne que Couchbase maintient une conformité ACID, atomicité, cohérence, isolation, durabilité, essentielle pour les charges de travail transactionnelles. La vraie bataille qui se joue ici est celle du substrat de mémoire des agents : quelle plateforme de données va devenir le système d'enregistrement de l'intelligence artificielle en production, y compris là où le cloud ne peut pas suivre.

UEPour les entreprises européennes soumises au RGPD ou à des réglementations sectorielles imposant la localisation des données, la capacité de déploiement on-premises et edge constitue une alternative concrète aux architectures cloud-first pour les agents IA en production.

💬 Ce que fait Couchbase ici, c'est mettre la main sur la mémoire de travail des agents, et tout le monde comprend que c'est là que se joue la prochaine bataille d'infrastructure. Leurs racines dans le cache leur donnent un avantage structurel sur des bases NoSQL qui ont bricolé une couche mémoire par-dessus du disque. Pour les boîtes européennes entre RGPD et réseaux capricieux, un système qui tourne pareil offline et sur le cloud, c'est pas anodin.

InfrastructureOpinion
1 source
L'IA atteint le mur de la mémoire : il lui faut un nouveau niveau de contexte
4VentureBeat AI 

L'IA atteint le mur de la mémoire : il lui faut un nouveau niveau de contexte

L'intelligence artificielle fait face à un nouveau goulot d'étranglement en 2026, et ce n'est plus la puissance de calcul des GPU. Selon Jeff Harthorn, responsable de la recherche appliquée en IA chez Solidigm, le vrai frein est désormais la gestion du contexte, la mémoire persistante qui doit survivre entre les sessions d'inférence. "Les GPU sont devenus bien moins chers par FLOP, les architectures de modèles et les moteurs d'inférence sont plus efficaces. Mais ce qui a crû plus vite que tout, c'est le contexte", explique-t-il. Les fenêtres de contexte ont explosé en taille, les systèmes d'IA agentiques enchaînent désormais des dizaines voire des centaines d'appels de modèles successifs, et les entreprises exigent que les états d'inférence persistent entre les sessions à des fins d'audit, de gouvernance et de réutilisation. Ces trois tendances se cumulent et propulsent les volumes de données contextuelles bien au-delà de ce que les architectures mémoire existantes peuvent absorber. Cette évolution a des conséquences directes sur les coûts et le retour sur investissement des infrastructures d'IA en entreprise. Quand les données de cache KV (Key-Value), les informations qui permettent à un modèle de retrouver et réutiliser le contexte d'une interaction, ne sont pas disponibles dans un tier de stockage rapide, le système est obligé de les recalculer à chaque session. Ce processus de "re-prefill" mobilise des cycles GPU entiers sans produire aucun nouveau token, autrement dit sans créer aucune valeur. "Si votre stockage n'est pas à la hauteur, votre ROI en souffre directement", souligne Ace Stryker, directeur marketing IA chez Solidigm. L'architecture de stockage héritée de l'ère de l'entraînement, séquentielle, dominée par les grandes écritures en bloc, n'est tout simplement pas adaptée aux accès fins et latence-sensibles que requiert l'inférence moderne. La réponse qui émerge est une nouvelle couche dédiée, baptisée CMX par Nvidia, qui s'intercale entre la mémoire HBM des GPU et le stockage réseau en masse. Ce tier intermédiaire, constitué de SSD haute performance et haute densité optimisés pour les charges d'inférence, est conçu pour héberger et servir rapidement le cache KV ainsi que les données de récupération utilisées dans les architectures RAG. Solidigm fait partie des fabricants de stockage qui développent des produits SSD spécifiquement taillés pour cette architecture. Jusqu'ici, le stockage était traité comme une commodité dans les plans d'infrastructure IA, on cherchait simplement le meilleur prix au gigaoctet. Ce paradigme est en train de changer en profondeur, à mesure que les systèmes agentiques persistants font du stockage un composant critique de la chaîne de performance des grands modèles de langage.

InfrastructureActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic