NVIDIA lance PAIR, un routeur d'inférence IA open source qui répartit les requêtes locales entre nœuds RTX, DGX Spark et Mac
NVIDIA a annoncé cette semaine Personal AI Router (PAIR), un routeur d'inférence virtuel open source qui répartit les requêtes d'intelligence artificielle locale entre plusieurs machines d'un même réseau domestique, comme des cartes RTX, des DGX Spark ou des Mac. L'outil est disponible dès maintenant en bêta publique (version 0.1.1), avec des installeurs signés pour Windows, macOS et Linux, et son code source complet est publié sur GitHub sous licence Apache 2.0. PAIR ne remplace pas les moteurs d'inférence existants comme Ollama ou LM Studio, qui continuent d'exécuter les modèles ; il se contente de décider sur quelle machine chaque requête doit tourner. La découverte des appareils se fait via mDNS, l'appairage repose sur un code PIN à six chiffres, et les communications entre nœuds sont sécurisées par mTLS. Lors d'une démonstration avec l'application Hermes Desktop, un flux de travail à cinq sous-agents traitant une boîte de réception synthétique a mis 18 minutes en moyenne sur un seul ordinateur portable RTX Spark, contre 8 minutes et 48 secondes sur un cluster de trois machines combinant un RTX Spark, un DGX Spark et une RTX 5090.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Cette annonce répond à un problème concret né de la généralisation des flux de travail multi-agents, où un agent principal découpe une tâche et lance des dizaines de sous-agents qui envoient chacun des requêtes indépendantes à un modèle. Pointées vers un seul moteur local, ces requêtes s'empilent dans une file d'attente pendant que d'autres machines du réseau restent inactives. En proxysant les interfaces déjà compatibles avec Ollama, LM Studio et le format OpenAI, PAIR ne nécessite aucune modification des agents existants : ces derniers continuent de dialoguer avec les mêmes ports, sans savoir que leurs requêtes sont redistribuées ailleurs. Le système ne fusionne toutefois pas la mémoire vidéo de plusieurs cartes ni ne fragmente une seule requête entre plusieurs machines : chaque requête reste assignée à un seul nœud, choisi selon cinq critères, la disponibilité du nœud, l'activation du moteur requis, la présence exacte du modèle demandé, la charge de travail en cours et l'utilisation du GPU.
Cette initiative s'inscrit dans la montée en puissance de l'IA agentique exécutée localement, où les utilisateurs disposent souvent de plusieurs machines équipées de GPU sans moyen simple de mutualiser leur puissance de calcul. En choisissant une licence ouverte et en prenant en charge du matériel non-NVIDIA comme les puces Apple M4, l'entreprise cherche à s'imposer comme la couche d'orchestration de référence pour ces environnements hétérogènes. PAIR fonctionne sur cartes GeForce RTX série 20 et supérieures, cartes RTX PRO à partir de Turing, DGX Spark et silicium Apple M4 ou plus récent, avec un minimum recommandé de 8 Go de RAM et 20 Go d'espace disque, ouvrant la voie à des clusters domestiques d'inférence sans dépendance au cloud.
Pas d'impact direct sur la France/UE