L'inférence en intelligence artificielle : une révolution en marche
Depuis 2020, l'industrie de l'IA s'est surtout concentrée sur l'entraînement de modèles toujours plus vastes, avec des gains spectaculaires : la plus grande version de GPT-3 d'OpenAI, sortie en 2020, ne répondait correctement qu'à 43,9 % des questions d'un benchmark de connaissances et de raisonnement reconnu, contre 88,7 % pour GPT-4o quatre ans plus tard, un niveau proche de celui d'experts humains. Mais en 2026, c'est l'inférence, soit l'utilisation des modèles déjà entraînés pour générer du code, rédiger des textes ou produire des images, qui domine les discussions du secteur. Jensen Huang, PDG de Nvidia, a qualifié ce basculement de « point d'inflexion de l'inférence » lors de la conférence GTC 2026 de l'entreprise. Cette explosion de la demande a provoqué des alliances inattendues : OpenAI et Amazon utilisent désormais des puces géantes conçues par Cerebras, bien qu'Amazon dispose de ses propres puces Trainium ; Nvidia a racheté des talents clés et la propriété intellectuelle de la start-up Groq pour 20 milliards de dollars ; et Anthropic verse plus d'un milliard de dollars par mois à un concurrent pour louer de la puissance de calcul supplémentaire. Ce basculement change la donne pour toute l'industrie des semi-conducteurs et des centres de données, car l'entraînement et l'inférence ont des profils de calcul très différents, ce qui oblige les fabricants de puces à repenser leurs stratégies matérielles. Selon Matt Kimball, analyste principal chez Moor Insights & Strategy, l'entraînement est devenu une préoccupation secondaire pour les directeurs informatiques, qui ne parlent plus que d'inférence. Ce phénomène s'explique par l'adoption massive des modèles par les utilisateurs, mais aussi par la montée des modèles de raisonnement, qui relancent plusieurs fois l'inférence sur une même requête via un processus de « chaîne de pensée », générant jusqu'à vingt fois plus de texte que les modèles à faible effort de raisonnement. L'essor de l'IA agentique amplifie encore cette tendance, puisque l'inférence ne se limite plus à répondre en temps réel à une requête ponctuelle mais tourne en continu, de façon autonome, pour atteindre des objectifs définis par l'utilisateur. Cette évolution redistribue les cartes entre les géants technologiques et les fournisseurs de puces spécialisées. Amazon Web Services illustre cette adaptation en scindant les tâches d'inférence en deux : ses puces Trainium, initialement conçues pour l'entraînement, gèrent la partie la plus complexe en calcul, tandis que le moteur à l'échelle d'une plaquette de silicium de Cerebras prend en charge la partie la plus gourmande en mémoire. Concrètement, entraîner un modèle revient à organiser un immense jeu de devinettes sur des milliards de passages de texte, où le modèle ajuste ses milliards ou trillions de paramètres par un processus coûteux appelé rétropropagation, avant que ses créateurs ne jugent que la poursuite de l'entraînement ne vaut plus l'investissement. Cette distinction technique entre entraînement et inférence explique pourquoi les besoins matériels de l'industrie s'annoncent très différents de ce que les experts anticipaient il y a encore quelques années, forçant l'ensemble de la chaîne d'approvisionnement en puces à se réorganiser autour de cette nouvelle priorité.
