La facture cachée du stockage en IA : ce que laisse l'inférence derrière elle
Quand on demande à un dirigeant d'imaginer le coût de l'IA, il pense GPU, baies d'accélérateurs, gigawatts d'électricité et listes d'attente pour le silicium. Un poste de dépense reste pourtant dans l'ombre : le stockage des données générées après chaque réponse d'un modèle. Selon des mesures internes de Western Digital (WD), un clip vidéo de 8 secondes livré à l'utilisateur sous la forme d'un fichier 720p de 3,97 Mo laisse en coulisses plus de 500 Mo de données associées : journaux, contexte mis en cache, rendus intermédiaires, sauvegardes et traces de sécurité. C'est 130 fois la taille du fichier visible. Pour une entreprise qui produit des vidéos plus longues et en meilleure résolution, l'empreinte grimpe à plusieurs centaines de gigaoctets par clip. McKinsey prévoit que la demande d'inférence croîtra de 35 % par an d'ici 2030, contre 22 % pour l'entraînement, et qu'elle représentera plus de 40 % de la demande totale des centres de données à la fin de la décennie. Une étude d'IDC sponsorisée par WD, menée auprès de 763 décideurs informatiques et métiers, indique que près de 95 % des répondants ont vu leurs volumes de données augmenter à cause de l'IA générative au cours des 12 derniers mois, et environ 61 % d'entre eux de 25 % ou plus.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
L'enjeu est budgétaire. Un entraînement est un projet fini, que l'on budgète puis clôt, alors que l'inférence ne s'arrête jamais et laisse une trace à chaque requête. Si les dépenses de stockage progressent de 25 % par an quand le budget de calcul suit un cycle plus prévisible, le stockage finit par dépasser la ligne budgétaire qui retient le plus l'attention. Pour un directeur financier ou informatique, le périmètre des « dépenses d'infrastructure IA » risque donc d'être défini trop étroitement autour du calcul. Un goulot d'étranglement côté stockage reste invisible jusqu'à ce qu'il devienne un problème, puis se manifeste dans les coûts d'exploitation. Un responsable produit d'un fournisseur cloud hyperscale cité dans le rapport résume : le stockage supplémentaire est une optimisation pour garder les GPU occupés, car des heures d'inactivité de GPU en attente de données deviennent très vite très coûteuses. Un modèle qui attend ses données coûte à peu près autant qu'un modèle privé de GPU.
Le contexte tient à un changement de nature des données conservées. Les besoins de calcul montent et descendent avec les cycles d'entraînement, les lancements de produits et les renouvellements matériels, mais le volume de données retenues ne reflue pas quand le calcul ralentit. Journaux de modèles, sorties synthétiques et résultats d'inférence s'accumulent, et les organisations les gardent plus longtemps. Ce qui partait autrefois en archive et en ressortait rarement peut désormais servir d'entrée à de futures charges de travail d'IA. Le stockage doit donc offrir non seulement de la capacité, mais aussi un accès dynamique : 96 % des répondants de l'enquête WD-IDC anticipent un besoin de récupération plus rapide des archives pour l'inférence ou la génération augmentée par récupération (RAG). WD, fabricant de disques, défend une approche par niveaux selon le cycle de vie des données, avec les disques durs comme socle de grande capacité et au coût par téraoctet nettement avantageux pour les volumes massifs à conserver et à réexploiter. Les résultats émanant d'un acteur du stockage, il convient de les lire en gardant cet intérêt commercial à l'esprit.
Pas d'impact direct sur la France/UE