Aller au contenu principal
xAI montre les difficultés d'exploiter de nombreux GPU en parallèle
InfrastructureThe Information AI · 1 min de lecture

xAI montre les difficultés d'exploiter de nombreux GPU en parallèle

Source originale ↗·

xAI, la société d'intelligence artificielle d'Elon Musk, dispose d'environ 500 000 GPU Nvidia, l'une des plus grandes collections de puces serveur parmi les développeurs d'IA ayant rendu leurs données publiques. Pourtant, selon un mémo interne révélé par Business Insider, le taux de Model Flops Utilization (MFU) de xAI n'atteignait que 11 % ces dernières semaines, soit la proportion de puissance de calcul réellement exploitée sur l'ensemble des chips disponibles. Un score de 100 % représenterait une utilisation totale et théoriquement parfaite de l'infrastructure.

Ce chiffre est particulièrement frappant dans un secteur où les GPU Nvidia sont devenus une ressource rare et âprement disputée. Les développeurs d'IA se battent pour en obtenir, et subissent une pression intense pour en tirer le maximum. Un chercheur d'une entreprise concurrente interrogé sur le sujet a reconnu que dépasser 40 % d'utilisation restait difficile pour la plupart des acteurs du secteur, mais a qualifié le taux de 11 % d'« incroyablement bas ». Ce qui rend la situation encore plus surprenante, c'est que xAI est réputée pour configurer ses clusters GPU selon les recommandations officielles de Nvidia.

La racine du problème tient à la nature même de l'entraînement des modèles d'IA : une activité dite « en rafales », marquée par des pics soudains d'utilisation suivis de périodes creuses, le temps que les chercheurs analysent les résultats et décident de la prochaine étape. Ce schéma rend l'optimisation du taux d'utilisation structurellement difficile, contrairement à l'inférence, phase où les modèles sont déployés pour les utilisateurs finaux, qui génère une charge plus régulière et prévisible. La course aux GPU bat son plein dans toute l'industrie, mais l'écart entre les ressources accumulées et leur efficacité réelle soulève des questions sur la rentabilité de ces investissements massifs, à l'heure où les valorisations de l'IA reposent en partie sur la capacité à exploiter cette infrastructure.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

À l'ISC, JUPITER démontre les capacités de la science à l'échelle exascale
1NVIDIA AI Blog 

À l'ISC, JUPITER démontre les capacités de la science à l'échelle exascale

JUPITER, le premier supercalculateur européen à atteindre l'échelle exaflop, installé au Forschungszentrum Jülich en Allemagne, affiche une première année de résultats scientifiques majeurs. Présentés cette semaine à la conférence ISC à Hambourg, quatre projets conduits sur cette machine illustrent concrètement ce que permet le calcul à l'échelle exascale : cartographier le cerveau humain cellule par cellule, simuler le climat terrestre à une résolution d'un kilomètre, développer des systèmes d'IA pour les réseaux sans fil de prochaine génération, et émuler un ordinateur quantique universel de 50 qubits. La machine repose sur des puces NVIDIA Grace Hopper et un réseau InfiniBand Quantum-X800. Thomas Lippert, directeur du Centre de supercalcul de Jülich et professeur à l'université Goethe de Francfort, affirme que JUPITER positionne l'Europe non pas comme un suiveur de l'ère exascale, mais comme son chef de file. Deux résultats se distinguent par leur portée. Le projet Jülich Brain Atlas a produit CytoNet, un modèle fondamental entraîné sur 6,5 pétaoctets de données issues de 21 cerveaux post-mortem, en moins de cinq jours sur 4 096 puces Grace Hopper. Pour la première fois, un modèle d'IA cartographie la microarchitecture cérébrale à l'échelle cellulaire, reliant la structure de chaque cellule aux grands schémas d'organisation du cerveau. La neuroscientifique Katrin Amunts, qui dirige les travaux à l'INM-1 de Jülich, prépare désormais un agent IA capable d'interroger directement ces données, intégrant du raisonnement multimodal et un modèle de langage NVIDIA Nemotron 3 120B. Sur le front climatique, le modèle ICON, développé en collaboration entre l'ETH Zurich, le Max Planck Institute for Meteorology, le DKRZ, le JSC et NVIDIA, a remporté le Gordon Bell Prize for Climate Modelling au SC25 en novembre dernier. Tournant sur 20 480 puces Grace Hopper, ICON simule pour la première fois un système terrestre couplé, atmosphère, océan, terres, biogéochimie et cycle du carbone complet, à une résolution d'un kilomètre. En 24 heures de calcul, la machine a simulé environ 146 jours de climat réel, un record mondial. Ces avancées s'inscrivent dans une course mondiale à la puissance de calcul scientifique où l'Europe a longtemps accusé un retard face aux États-Unis et à la Chine. JUPITER comble cet écart en offrant à la communauté scientifique européenne un outil capable de traiter des problèmes auparavant hors de portée, qu'il s'agisse de la connectivité 6G, des maladies neurodégénératives ou du changement climatique. La concentration de disciplines aussi diverses sur une seule infrastructure marque un tournant : le supercalcul ne sert plus uniquement la physique des particules ou la météorologie, mais devient un substrat commun pour toutes les sciences de pointe. Les prochaines étapes pour plusieurs équipes incluent l'intégration d'agents IA autonomes capables de conduire eux-mêmes des expériences scientifiques, ouvrant la voie à une recherche partiellement automatisée à très grande échelle.

UEJUPITER, financé par EuroHPC et installé à Jülich (Allemagne), positionne l'UE comme leader mondial du calcul exascale, offrant à la communauté scientifique européenne une infrastructure de pointe pour la recherche en neurosciences, climatologie et IA souveraine.

💬 L'Europe qu'on moque pour ses règlements vient de cartographier le cerveau humain cellule par cellule et de simuler le climat à un kilomètre de résolution, en moins d'une semaine de calcul. JUPITER, c'est la preuve que la souveraineté numérique européenne ne passe pas que par des textes de loi, mais aussi par des machines capables de faire tourner de la science que personne d'autre ne peut faire. Bon, faut qu'ils gardent l'avance maintenant.

InfrastructureActu
1 source
Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement
2The Information AI 

Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement

Google prépare une nouvelle puce serveur qui intégrerait directement l'architecture de son modèle d'intelligence artificielle Gemini, afin de faire fonctionner ses modèles de façon beaucoup plus efficace, selon deux personnes proches du dossier. Ce processeur, surnommé en interne "Frozen v2", vise à répondre à une pénurie importante de capacité de calcul IA, une situation qui a généré des tensions internes chez Google et contraint Google Cloud à refuser des contrats avec des clients externes. Les équipes travaillant sur ce projet estiment que la puce pourrait être six à dix fois plus efficace que la dernière génération de puces IA maison de Google, mesurée en nombre de tokens (l'unité de base de consommation d'un modèle d'IA) traités par unité d'énergie consommée. Cette avancée serait déterminante pour l'activité cloud de Google, confrontée à une demande croissante qu'elle peine actuellement à satisfaire. Une puce nettement plus économe en énergie permettrait de servir davantage d'utilisateurs et d'entreprises clientes sans multiplier les investissements en infrastructure, tout en réduisant les coûts d'exploitation liés à l'IA. Cela renforcerait aussi la position de Google face à ses concurrents dans la course aux semi-conducteurs spécialisés, où la disponibilité de puces performantes est devenue un facteur clé de compétitivité. Ce projet s'inscrit dans la lignée des puces maison de Google, conçues depuis plusieurs années pour réduire sa dépendance aux fabricants externes comme Nvidia. La spécificité de "Frozen v2" est d'intégrer directement le modèle Gemini dans la conception matérielle, une approche de co-conception censée maximiser les gains d'efficacité. Cette pénurie de capacité de calcul touche l'ensemble du secteur, où Google, Microsoft, Amazon et OpenAI se disputent des ressources limitées pour entraîner et déployer leurs modèles à grande échelle.

UELes entreprises europeennes clientes de Google Cloud pourraient beneficier indirectement d'une meilleure disponibilite de capacite de calcul IA si cette puce reduit la penurie actuelle.

InfrastructureActu
1 source
Le FOMO pousse les entreprises à payer des GPU inutilisés et fait grimper les prix
3VentureBeat AI 

Le FOMO pousse les entreprises à payer des GPU inutilisés et fait grimper les prix

Les entreprises qui investissent massivement dans les GPU d'intelligence artificielle n'en utilisent en réalité que 5 % de leur capacité, selon le rapport 2026 de Cast AI sur l'optimisation Kubernetes, qui s'appuie sur des mesures de clusters en production réelle. Laurent Gil, cofondateur et président de Cast AI, suit cette dynamique depuis deux ans. Il estime qu'une gestion humaine raisonnable devrait atteindre environ 30 % d'utilisation, compte tenu des cycles jour/nuit et des week-ends. À 5 %, les entreprises exploitent leur infrastructure la plus coûteuse à un sixième de ce que produirait une approche sans effort particulier. Dans le même temps, AWS a discrètement relevé ses prix sur les GPU H200 réservés d'environ 15 % un samedi de janvier, sans annonce officielle, tandis que les fabricants de mémoire ont augmenté les tarifs de la HBM3e de 20 % pour 2026. C'est la première fois depuis le lancement d'EC2 par AWS en 2006 qu'un hyperscaler hausse ses prix GPU réservés plutôt que de les baisser. Ce paradoxe a des conséquences concrètes sur les budgets technologiques de milliers d'entreprises. L'hypothèse fondamentale qui sous-tend la plupart des projections de dépenses cloud, que la puissance de calcul devient moins chère chaque année, ne tient plus au sommet de la pile. Le marché s'est scindé en deux niveaux : côté commodity, les prix du H100 à la demande ont chuté de 7,57 dollars par GPU-heure en septembre 2025 à environ 3,93 dollars aujourd'hui, avec des fournisseurs comme Lambda Labs ou RunPod sous les 3 dollars. Mais côté frontier, la logique s'est inversée. Nvidia a reçu des commandes pour 2 millions de puces H200 pour 2026, contre un stock disponible de 700 000 unités. Les capacités d'assemblage avancé de TSMC, indispensables à chaque GPU équipé de HBM, sont réservées jusqu'à mi-2027 au moins. AMD a prévenu de ses propres hausses de prix pour 2026, et même les A100, dont le coût devait baisser à l'expiration des réservations triennales de 2023, repartent à la hausse. La mécanique qui explique ces 5 % d'utilisation tient à un processus d'achat dominé par la peur de manquer. Une entreprise rejoint une liste d'attente chez un hyperscaler, attend des semaines ou des mois, puis reçoit un appel : 36 GPU disponibles immédiatement, engagement d'un ou trois ans exigé, à prendre ou à laisser. La question n'est alors plus de savoir si les charges de travail justifient cette capacité, mais de ne pas perdre le créneau. Une fois les GPU obtenus, personne ne les rend : les récupérer prendrait des mois et aucune équipe ne veut être celle qui a renoncé à sa capacité. La flotte reste donc allumée, facturée à l'heure, utilisée ou non. Gil observe même des entreprises payer les tarifs à la demande, trois fois plus chers que les réservations annuelles, simplement parce que la souplesse paraît moins risquée que l'engagement. La pénurie nourrit la thésaurisation, et la thésaurisation entretient la pénurie.

UELes entreprises européennes utilisant des GPU cloud subissent les mêmes hausses de prix sur les H200 réservés et le HBM3e, alourdissant leurs budgets IA sans gain de performance.

InfrastructureOpinion
1 source
Mistral AI sécurise 830 millions de dollars en dette pour exploiter son premier centre de données en France
4Maddyness 

Mistral AI sécurise 830 millions de dollars en dette pour exploiter son premier centre de données en France

Mistral AI a finalisé un financement par dette de 830 millions de dollars destiné à l'exploitation de son premier centre de données souverain en France. Cette opération, distincte d'une levée de fonds en capital classique, permet à la startup parisienne fondée en 2023 de conserver sa structure actionnariale tout en mobilisant des ressources massives pour une infrastructure physique propre. Ce passage à l'hébergement en propre marque un tournant stratégique majeur : Mistral ne dépend plus uniquement des hyperscalers américains comme AWS ou Azure pour faire tourner ses modèles. Disposer d'un datacenter français signifie une maîtrise totale de la chaîne de traitement des données, un argument de poids auprès des clients institutionnels et des gouvernements européens soucieux de souveraineté numérique. Ce mouvement s'inscrit dans une course mondiale à la puissance de calcul où les acteurs de l'IA réalisent que le contrôle de l'infrastructure est aussi stratégique que les modèles eux-mêmes. Mistral, qui compte parmi ses clients la Commission européenne et plusieurs États membres, consolide ainsi sa position de champion européen face aux géants américains. L'opération pourrait également préfigurer une introduction en bourse ou un partenariat industriel à grande échelle dans les mois à venir.

UEMistral AI construit un datacenter souverain en France, réduisant la dépendance aux hyperscalers américains et offrant aux institutions publiques et gouvernements européens une alternative crédible pour le traitement souverain des données.

💬 C'est le move qu'on attendait depuis que Mistral a commencé à vendre aux gouvernements. Un datacenter souverain en France, c'est pas un bonus symbolique, c'est la condition pour décrocher les gros contrats institutionnels sans que personne te demande où tournent les données. Et 830 millions en dette plutôt qu'en capital, ça dit beaucoup sur leur ambition : ils préservent l'actionnariat pour ce qui vient après.

InfrastructureOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic