OpenAI dévoile sa première puce d'inférence IA maison, Jalapeño, développée avec Broadcom grâce à ses propres modèles

OpenAI et Broadcom annoncent une puce dédiée à l'inférence de grands modèles de langage

OpenAI et Broadcom ont annoncé conjointement une nouvelle puce baptisée Jalapeño, conçue spécifiquement pour l'inférence de grands modèles de langage (LLM) dans les centres de données à grande échelle. Les deux entreprises présentent ce composant comme la première génération d'un partenariat à long terme, avec l'ambition d'affiner et d'améliorer le design des puces au fil des générations successives. Cette annonce marque une étape significative dans la stratégie d'OpenAI pour maîtriser sa propre chaîne d'approvisionnement en silicium. L'inférence, soit le processus par lequel un modèle génère des réponses en temps réel, représente la charge computationnelle la plus coûteuse et la plus constante pour une entreprise comme OpenAI, qui sert des centaines de millions d'utilisateurs via ChatGPT et ses API. Disposer d'une puce dédiée, optimisée pour ce cas d'usage précis, pourrait réduire drastiquement les coûts opérationnels et diminuer la dépendance d'OpenAI envers Nvidia, dont les GPU dominent aujourd'hui le marché de l'IA. Cette démarche s'inscrit dans une tendance de fond : les géants du numérique cherchent tous à s'affranchir de Nvidia en développant leurs propres accélérateurs. Google a ses TPU, Amazon son Trainium, Microsoft son Maia, Apple son Neural Engine. Broadcom, qui fabrique déjà des puces personnalisées pour Google et Meta, s'affirme comme le partenaire industriel privilégié de cette nouvelle vague. Le fait qu'OpenAI rejoigne ce mouvement avec un chip nominalement dédié à l'inférence signale que la société considère désormais le contrôle du matériel comme un avantage concurrentiel structurel, et non plus une simple option.

Les calculs derrière la puce Jalapeño d'OpenAI

OpenAI a officiellement présenté le Jalapeño, son premier processeur maison baptisé "Intelligence Processor", développé en collaboration avec Broadcom. Conçu spécifiquement pour l'inférence de grands modèles de langage (LLM) plutôt que pour des charges de travail IA généralistes, ce circuit intégré (ASIC) est fabriqué par TSMC à Taïwan, tandis que Celestica assemble les cartes et systèmes de racks. OpenAI a fourni l'architecture de base, Broadcom s'est chargé de l'ingénierie silicium et de l'intégration réseau haute performance, notamment via le switch Tomahawk. Selon la société, des échantillons préliminaires font déjà tourner des charges de production, dont un modèle inédit GPT-5.3-Codex-Spark, à la fréquence et la consommation électrique cibles. La motivation est avant tout financière. Faire fonctionner ChatGPT a coûté 8,4 milliards de dollars en 2025 ; avec 900 millions d'utilisateurs hebdomadaires, la facture devrait atteindre 14 milliards cette année. Sur les huit prochaines années, OpenAI s'est engagé à dépenser environ 1 400 milliards de dollars en puissance de calcul, pour une entreprise qui génère actuellement 25 milliards de revenus annuels. Nvidia empoche environ 75 % de marge sur ses GPU haut de gamme, là où OpenAI ne conserve que 33 cents par dollar de chiffre d'affaires après charges opérationnelles. Concevoir son propre silicium, optimisé pour minimiser les mouvements de données et maximiser l'utilisation réelle des processeurs, est le levier le plus direct pour desserrer cet étau. En couvrant toute la chaîne, de l'architecture puce aux noyaux logiciels en passant par la gestion mémoire et le routage réseau, OpenAI se transforme d'une couche logicielle pure en une entreprise d'infrastructure verticalement intégrée, sur le modèle d'Apple avec ses puces M et iOS. OpenAI entre néanmoins sur un terrain où ses concurrents ont une avance considérable. Google déploie ses TPU depuis 2015 et contrôle environ un quart de la capacité mondiale de calcul IA hors Nvidia. Amazon a déjà livré plus d'un million de ses puces maison, Meta et Microsoft poursuivent leur propre montée en puissance. Pour combler ce retard, OpenAI a compressé son calendrier de développement. Greg Brockman, cofondateur et président, résume l'ambition ainsi : "En concevant davantage de la pile nous-mêmes, nous pouvons servir plus d'intelligence avec une plus grande efficacité." L'enjeu à long terme est un cercle vertueux : une infrastructure moins coûteuse réduit le prix de l'entraînement et de l'inférence, ce qui améliore les produits, attire plus d'utilisateurs, et génère les revenus nécessaires pour financer la prochaine génération de puces maison.

Google en discussions avec Marvell pour développer de nouveaux puces IA dédiées à l'inférence

Google mène des discussions avec Marvell Technology pour développer deux nouveaux puces dédiées à l'inférence d'intelligence artificielle, selon deux sources proches du dossier. La première est une unité de traitement mémoire conçue pour fonctionner en complément des TPU (Tensor Processing Units) déjà fabriqués par Google. La seconde est un nouveau TPU entièrement conçu pour exécuter des modèles d'IA en production. Aucune date officielle n'a été communiquée pour l'instant. Cette démarche illustre la demande explosive pour des puces d'inférence performantes, celles qui font tourner les applications d'IA en temps réel, des agents autonomes aux assistants commerciaux. Contrairement à l'entraînement des modèles, l'inférence mobilise des ressources en continu, à grande échelle, ce qui en fait un enjeu économique majeur pour les grandes plateformes cloud. Optimiser ces puces se traduit directement en réduction de coûts et en amélioration des performances pour des millions d'utilisateurs finaux. La course à la puce d'inférence s'intensifie sur tous les fronts. En mars dernier, Nvidia a présenté à sa conférence GTC un nouveau composant baptisé LPU (Language Processing Unit), construit sur une technologie rachetée à la startup Groq pour 20 milliards de dollars. Google, de son côté, développe ses propres TPU depuis des années pour réduire sa dépendance à Nvidia, et ce partenariat potentiel avec Marvell s'inscrit dans cette stratégie d'autonomie technologique. La bataille pour dominer l'infrastructure d'inférence promet d'être l'un des grands enjeux industriels des prochaines années.

💬 Google qui externalise une partie de sa conception de puces à Marvell, c'est un signal fort : même eux n'ont pas les ressources pour tout faire en interne à ce rythme. L'inférence, c'est le vrai coût caché de l'IA en prod, celui qui explose à mesure qu'on déploie des agents partout. Reste à voir si ce partenariat débouche sur quelque chose de concret, ou si c'est juste une piste parmi dix autres.

L'accord OpenAI-Broadcom sur les puces IA bute sur 18 milliards de financement

OpenAI et le fabricant de semi-conducteurs Broadcom avaient annoncé l'automne dernier un accord pour développer ensemble des puces d'intelligence artificielle sur mesure. L'ambition affichée était de taille : mettre en ligne suffisamment de composants avant 2030 pour consommer 10 gigawatts d'électricité, soit l'équivalent de cinq fois la production du barrage Hoover. L'objectif déclaré était de réduire la dépendance coûteuse d'OpenAI à l'égard des processeurs Nvidia. Ce que les deux entreprises n'avaient pas précisé, c'est qu'elles n'avaient pas encore trouvé comment financer le projet, dont le montant atteint 18 milliards de dollars. Ce blocage financier expose une contradiction au coeur de la stratégie d'OpenAI : l'entreprise affiche des ambitions d'infrastructure colossales tout en restant tributaire d'un partenaire unique, Nvidia, dont les GPU sont à la fois indispensables et extrêmement onéreux. Sans financement sécurisé, le calendrier du projet risque de glisser, laissant OpenAI dans une position de dépendance prolongée qui pèse directement sur ses marges et sa capacité à scaler ses modèles. Cette situation s'inscrit dans une course plus large à l'indépendance chipière. Google, Meta et Amazon ont chacun développé leurs propres accélérateurs maison pour s'affranchir de Nvidia. OpenAI, longtemps focalisé sur la recherche et les produits, arrive plus tardivement dans cette logique d'intégration verticale. L'accord avec Broadcom est une tentative de rattrapage, mais sa concrétisation dépend désormais de la capacité d'OpenAI à lever des fonds dans un contexte où ses dépenses opérationnelles restent très élevées.