Les innovateurs de l'IA adoptent NVIDIA Vera : l'importance du CPU mono-thread maximal à grande échelle
Nvidia vient de présenter Vera, une puce qui inaugure une nouvelle catégorie de processeurs pensée spécifiquement pour l'ère de l'IA agentique : les CPU à performance monofil maximale à grande échelle. Dans le fonctionnement d'un système agentique, le CPU se trouve sur le chemin critique de chaque étape de raisonnement : c'est lui qui exécute les appels d'outils, le code, le traitement des données, la gestion du cache KV et l'analyse des résultats produits par le modèle. Or les processeurs de data center actuels n'ont pas été conçus pour ce rôle. Poussés par l'essor du cloud, les fabricants ont privilégié l'augmentation du nombre de cœurs par puce afin de réduire le coût par cœur louable, au détriment de la vitesse de chaque cœur pris individuellement. Le passage aux architectures en chiplets a aggravé le problème en introduisant ce que Nvidia appelle une "taxe chiplet" : chaque cœur perd l'accès à la pleine bande passante mémoire de la puce. Vera est présentée comme une réponse directe à ces limites, avec une architecture qui privilégie la vitesse par cœur, une bande passante mémoire suffisante par cœur et une latence prévisible.
Cette approche change directement l'équation économique des usines à IA. Dans ces infrastructures, le GPU reste la ressource la plus coûteuse et la plus rare : chaque seconde où un GPU attend qu'un CPU termine une tâche annexe (exécution d'un outil, traitement d'une donnée) réduit son taux d'utilisation et, in fine, le revenu généré par l'installation. Pour un agent IA, qui fonctionne en boucle continue (le modèle raisonne, le CPU exécute, le résultat revient, le modèle décide de l'étape suivante), la vitesse d'exécution de chaque étape détermine la cadence de toute la chaîne, puisque chaque action dépend du résultat de la précédente. Ajouter davantage de cœurs augmente le débit global de tâches traitées en parallèle, mais ne réduit en rien le temps nécessaire à l'exécution d'une seule étape dans une seule boucle d'agent : c'est la performance individuelle de chaque cœur, et non leur nombre, qui fixe la vitesse réelle perçue par l'agent.
Ce constat marque une rupture avec la trajectoire suivie par l'industrie du semi-conducteur depuis une décennie, où l'optimisation du coût par cœur avait pris le pas sur la performance brute, notamment pour servir des charges de travail traditionnelles, ponctuelles et pilotées par des utilisateurs humains. Les charges agentiques, elles, sont permanentes et massivement parallèles, avec des essaims d'agents qui tournent en continu à travers des chaînes d'étapes interdépendantes. En misant sur Vera, Nvidia cherche à repositionner le CPU comme un composant aussi stratégique que le GPU dans la conception des futures usines à IA, alors que la concurrence entre fabricants de puces pour l'infrastructure agentique s'intensifie.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
