Nvidia affirme que son Groq 3 LPX est quatre fois plus rapide que Cerebras, mais le calcul est plus complexe

Cette nuance change la donne pour les entreprises qui choisissent leur infrastructure d'inférence IA. Un débit élevé obtenu grâce à un déploiement massif de puces n'a pas la même valeur économique qu'une performance équivalente obtenue avec du matériel minimal, notamment en termes de coût, de consommation énergétique et d'espace en data center. Pour les fournisseurs de services d'IA générative, le rapport performance par puce, et non la vitesse absolue, devient le critère déterminant pour évaluer la rentabilité d'un déploiement à grande échelle.

Cette annonce s'inscrit dans une compétition de plus en plus tendue sur le marché des puces spécialisées pour l'inférence, où Nvidia, longtemps dominant sur l'entraînement des modèles, cherche à consolider sa position face à des acteurs comme Cerebras qui misent sur des architectures radicalement différentes, avec des puces géantes capables de traiter des modèles entiers sans les répartir sur des dizaines d'unités. Une question reste ouverte : comment cette nouvelle architecture de Nvidia se comportera-t-elle face aux modèles de mélange d'experts (MoE) de grande taille, de plus en plus répandus dans l'industrie, ce qui déterminera si l'avantage annoncé se maintient en conditions réelles.