Cette nouvelle fonction de Windows permet de relier plusieurs mini PC en USB4 pour charger de gros modèles d’IA
Microsoft a dévoilé le 19 novembre, en préversion pour développeurs sur son blog consacré à l'USB, une version du RDMA (accès direct à la mémoire à distance) fonctionnant par USB4 sous Windows. Cette technologie permet à une machine de lire la mémoire d'une autre sans passer par toute la pile réseau habituelle, et ramène l'aller-retour d'un petit message à 28 microsecondes, environ quatre fois moins qu'en Ethernet classique sur le même câble. AMD a testé le dispositif avec trois mini PC équipés de la puce Ryzen AI Max+ 395 (Strix Halo) et de 128 Go de mémoire, comme le GMKtec EVO-X2 : le modèle Qwen3-235B, qui dépasse les 128 Go même compressé, y génère entre 18,5 et 21,98 tokens par seconde. De son côté, Intel a fait tourner GPT-OSS-120B sur trois puis quatre machines Core Ultra Series 3 de 64 Go, à 49,4 puis 54,2 tokens par seconde.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Frandroid. Lire l'article original →
L'enjeu est de rendre accessible, avec du matériel grand public, un type de montage qui exigeait jusqu'ici des cartes réseau de datacenter. Un utilisateur disposant de plusieurs mini PC peut désormais mutualiser leur mémoire pour charger de très gros modèles d'IA en local, sans acheter d'équipement supplémentaire hormis des câbles. L'USB4 plafonne certes à 40 ou 80 Gb/s, soit cinq fois moins de débit à 40 Gb/s que les 200 Gb/s de la carte ConnectX-7 de Nvidia, mais Microsoft précise que la latence, qui rythme la génération de texte, reste identique aux deux vitesses. La technique pourrait aussi combler un manque chez Nvidia : les machines RTX Spark, déclinaison Windows de la même puce que le DGX Spark, ont perdu ce ConnectX-7 mais offrent trois ports USB-C à 40 Gb/s, de quoi relier en théorie quatre PC, à condition que la méthode fonctionne sur cette plateforme.
Le contexte est celui d'une course à l'IA locale où le clustering devient un argument commercial. Nvidia relie deux DGX Spark pour exécuter des modèles jusqu'à 405 milliards de paramètres, et son outil Cluster Assistant en gère désormais jusqu'à quatre avec un switch. Apple propose pour sa part le RDMA sur Thunderbolt 5 entre Mac depuis macOS 26.2, et Microsoft rattrape donc ici son retard. Les limites restent nombreuses : chaque PC doit être relié directement à tous les autres, ce qui borne la taille des grappes (trois avec deux ports USB4, cinq avec les quatre ports de l'EVO-X5 Pro). Microsoft n'a validé que des grappes homogènes, exige les mêmes versions de Windows et de pilotes, et ne mentionne pas Arm. Mélanger AMD, Intel et Nvidia reste donc expérimental, même si la version modifiée de llama.cpp passe par Vulkan, compris par les GPU des trois fabricants. La fonction n'est dans aucune build publique de Windows : une version Insider est promise, seuls le module NetworkDirect et le llama.cpp modifié sont sur GitHub, et son activation impose de désactiver le Secure Boot.