La construction de l'environnement d'entreprise pour l'IA à base d'agents
Intel a mené plusieurs milliers d'expériences sur des charges de travail d'IA agentique afin d'identifier ce dont une entreprise a réellement besoin pour faire fonctionner des agents logiciels à grande échelle. Pour cela, le groupe a étendu Terminal-Bench, un outil open source de benchmark pour agents IA, en y ajoutant des capacités de profilage, de télémétrie et de rejeu. La méthode retenue repose sur un enregistrement déterministe des réponses des modèles de langage, rejouées ensuite à l'identique à chaque test : cela permet de mesurer la performance des agents indépendamment de la variabilité propre au LLM. Le panel de tâches utilisé était volontairement large : compilation, tests logiciels, opérations de bases de données, logique booléenne, interprétation, ray tracing, compression de données, algèbre linéaire, transcodage vidéo et entraînement de modèles de machine learning. Cette diversité visait à rapprocher les résultats des conditions réelles rencontrées en entreprise. De ces travaux, Intel tire cinq enseignements pratiques, dont l'idée centrale que l'IA agentique constitue un problème de système complet et non un simple enjeu d'inférence.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cette distinction a des conséquences concrètes pour les équipes qui déploient des agents en production. Plutôt que de se limiter aux métriques classiques d'évaluation des modèles, Intel recommande de suivre six indicateurs : le taux de réussite des tâches, le coût par tâche, le temps par tâche, le débit de traitement, la densité d'agents par vCPU et la latence. Le point le plus contre-intuitif concerne le dimensionnement des infrastructures : la bonne unité de mesure n'est pas le nombre brut d'agents déployés, mais la densité d'agents par processeur virtuel disponible. Ainsi, dix agents tournant sur un système à 8 vCPU et vingt agents sur un système à 16 vCPU se comportent de façon comparable, dès lors que la densité reste identique. Cela donne aux architectes un moyen fiable de comparer des capacités entre différentes tailles d'instances et générations de processeurs, et de calibrer leurs infrastructures selon les objectifs métier : les assistants interactifs orientés utilisateur exigent une densité plus faible pour préserver le temps de réponse, tandis que les traitements par lots, comme les flux de travail IT internes, peuvent tourner à densité plus élevée.
Ces travaux s'inscrivent dans un contexte où l'IA agentique dépasse largement le cadre du chatbot conversationnel pour devenir un outil d'automatisation de bout en bout des processus métier, capable de planifier des tâches multi-étapes, d'appeler des outils, de lire des résultats et de relancer une action en cas d'échec. Intel préconise notamment de surveiller la latence réelle des tâches plutôt que la seule utilisation moyenne du CPU, et de privilégier une architecture en scale-out plutôt qu'en scale-up, cette dernière n'étant réservée qu'aux charges nécessitant davantage de calcul par agent ou soumises à des contraintes architecturales spécifiques. Ces recommandations visent à outiller les équipes techniques face à la montée en charge attendue des déploiements agentiques dans les prochains mois.
Pas d'impact direct sur la France/UE
Ce qui me marque le plus dans ce papier, c'est le changement d'unité de mesure. Intel affirme que compter les agents déployés ne veut rien dire : seule la densité d'agents par vCPU permet de comparer deux infras entre elles, dix agents sur 8 vCPU se comportant comme vingt sur 16. Reste qu'Intel a du silicium à vendre derrière cette grille de lecture, donc je la garde en tête sans la prendre pour argent comptant.