TorchTPU : Google répond à AWS sur l’entrainement des modèles
Google a présenté TorchTPU lors de la PyTorch Conference 2026, une pile logicielle qui permet d'exécuter PyTorch directement sur ses puces TPU, sans couche d'adaptation intermédiaire. L'annonce suit de près celle d'Amazon Web Services, qui venait de lancer TorchNeuron pour ses puces Trainium. Le projet est publié sous licence Apache 2.0 et son dépôt GitHub est déjà en ligne. Il propose deux modes d'exécution : « eager », qui exécute le programme ligne par ligne et facilite la recherche d'erreurs, et « torch.compile », qui analyse l'ensemble du programme avant de l'exécuter. Les développeurs peuvent commencer avec le premier et basculer vers le second si nécessaire. TorchTPU couvre l'entraînement comme l'inférence. Selon Google, TorchTitan, conçu pour répartir l'entraînement sur des milliers de puces, a affiché une montée en charge linéaire jusqu'à 8 129 TPU. Le dépôt de XLA, la solution utilisée jusqu'ici pour exploiter les TPU depuis PyTorch, est désormais déprécié et sera archivé le 15 novembre.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Google insiste sur la compatibilité avec l'écosystème existant, point central de son annonce. Pour vLLM et SGLang, les ordonnanceurs, les modèles de travail et les serveurs d'API d'origine sont conservés, et les piles d'inférence existantes peuvent être reprises telles quelles. Pour VeRL, outil d'apprentissage par renforcement, le code des modèles et des algorithmes reste indépendant du matériel. Ray, pour la répartition des étapes des chaînes de traitement, et llm-d figurent aussi parmi les projets pris en charge. Avec Hugging Face, un simple paramètre (device_map="tpu") suffit à cibler les puces. Concrètement, les équipes qui développent déjà avec PyTorch peuvent envisager les TPU sans réécrire leur code ni adopter un outillage jugé peu naturel. Cela abaisse nettement le coût de migration, qui constitue souvent le principal frein au changement de matériel.
Cette annonce s'inscrit dans une bataille autour de la dépendance de l'écosystème IA à NVIDIA. PyTorch a besoin d'une couche intermédiaire pour traduire les opérations en instructions comprises par le matériel. Dans la grande majorité des cas, cette couche est CUDA, technologie propriétaire que NVIDIA a longtemps travaillée pour que tous types de calculs puissent s'exécuter sur ses GPU. Cet avantage logiciel a verrouillé le marché bien plus que les seules performances des puces. Google et Amazon cherchent donc à réduire les frictions pour attirer les développeurs vers leurs propres processeurs, les TPU d'un côté, Trainium de l'autre. Google met en avant son partenariat avec Meta, à l'origine de PyTorch, pour asseoir la légitimité de sa démarche. Reste à voir si l'adoption suivra, et si ces solutions atteindront la maturité et la richesse de l'écosystème CUDA. Elles restent néanmoins limitées à leurs clouds respectifs.
Pas d'impact direct sur la France/UE