LinkedIn, Walmart et Zendesk expliquent comment ils adaptent leur infrastructure à la vitesse des agents IA (VB Transform 2026)
Lors d'un panel organisé pendant VB Transform 2026, trois responsables infrastructure de LinkedIn, Walmart et Zendesk ont dressé le même constat : ce ne sont pas les modèles d'IA qui freinent le déploiement des agents en production, mais l'infrastructure existante. Animesh Singh, directeur senior de la plateforme IA chez LinkedIn, Desiree Gosby, vice-présidente senior des technologies d'entreprise chez Walmart, et Sami Ghoche, vice-président de l'IA appliquée chez Zendesk, ont chacun décrit ce qui a cassé lorsqu'ils sont passés du pilote à la production. Chez LinkedIn, le premier obstacle a été Kubernetes lui-même : le système suppose que les conteneurs démarrent à la demande, un processus qui prend plusieurs secondes, bien trop lent pour des agents. L'équipe est passée à des pools de conteneurs pré-provisionnés, échangés en temps réel. Un second problème est apparu quand les agents ont commencé à orchestrer leurs propres tâches : les hallucinations persistaient malgré un système d'évaluation en cinq points, car un LLM qui évalue un autre LLM reproduit les mêmes biais. LinkedIn a donc construit son propre harnais de contrôle, reléguant les modèles aux tâches nécessitant du raisonnement pur, si bien que 80 % du flux de travail repose désormais sur du code déterministe. Chez Walmart, le succès interne d'un harnais d'agents mis à disposition des employés a entraîné une prolifération d'agents redondants créés par des "citizen developers". Chez Zendesk, qui a intégré les équipes de Forethought après une acquisition finalisée en mars 2026, Ghoche gère un historique de 20 milliards de conversations clients, un volume trop massif pour être simplement injecté dans un LLM à grand contexte.
Ces retours d'expérience montrent que la maturité d'un déploiement d'agents en entreprise ne dépend plus de la puissance du modèle choisi, mais de la capacité de l'infrastructure existante, pensée pour des humains, à s'adapter à des systèmes qui opèrent à l'échelle de la milliseconde. Pour Walmart, la solution n'a pas été de brider l'innovation des employés mais de créer une gouvernance capable de repérer les doublons et de promouvoir les meilleures versions d'agents vers la production, sans faire de l'ingénierie un goulot d'étranglement. Cette tension entre vitesse d'innovation et contrôle structuré devient un enjeu central pour toute organisation qui veut industrialiser l'usage des agents.
Sur la question de l'open source, les trois dirigeants convergent : mieux vaut posséder ses propres modèles et son infrastructure chaque fois que c'est possible, et ne recourir aux laboratoires comme OpenAI ou Anthropic que pour les tâches de raisonnement les plus avancées. Selon Ghoche, cette part d'usages qui nécessite encore les modèles de pointe des grands laboratoires continue de se réduire à mesure que les entreprises étendent leurs propres capacités internes, un signe que l'industrie entre dans une phase où la maîtrise de la donnée et du pipeline compte autant que l'accès au meilleur modèle.
Dans nos dossiers
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.



