Avec Minions, Apple veut mettre à profit les GPU inactifs des Mac pour l’inférence
Apple a publié sur Arxiv un article de recherche consacré à Minions, une infrastructure destinée à agréger les ressources GPU inutilisées de grappes de Mac équipés de puces Apple Silicon pour des charges d'inférence à grande échelle. L'architecture repose sur quatre éléments. Un serveur central reçoit les requêtes via une interface web ou des API REST, les valide, puis les découpe de manière asynchrone en sous-tâches stockées dans une base PostgreSQL, ce qui crée de fait une file d'attente. Des exécuteurs, installés sur les Mac mis à contribution, traitent ces sous-tâches sur le GPU local et écrivent leurs résultats dans un stockage S3. Ils n'accèdent jamais directement à la base : ils réservent leurs tâches, signalent leur état, envoient leur signal de vie et livrent leurs résultats par l'API du serveur. Un superviseur baptisé « Watchdog » surveille les exécuteurs et remet en file d'attente les sous-tâches de ceux qui deviennent muets, que ce soit par perte de réseau, mise en veille, extinction ou arrêt volontaire. Un tableau de bord permet enfin de suivre l'ensemble en temps réel.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ce dispositif vise les équipes qui lancent de grands lots asynchrones d'inférence, comme la construction d'index de recherche ou la génération massive de texte pour l'évaluation ou l'étiquetage. Elles n'auraient plus à attendre qu'une grappe de GPU dédiée se libère, puisque la puissance dormante de machines déjà présentes dans l'entreprise serait mobilisée. Le projet renforce aussi la place des Mac dans le paysage de l'IA. Leur mémoire unifiée, partagée entre CPU et GPU, permet à un Mac de 32 Go de faire puiser son GPU dans l'ensemble de cette mémoire. Elle est moins rapide que la VRAM des cartes graphiques dédiées, et a fortiori que la HBM, mais elle compense par le volume disponible.
Le document comporte toutefois de fortes limites. Il est très court et ne fournit aucune mesure : ni débit, ni coût énergétique, ni taux de reprise, ni comparaison avec une autre approche. Les performances réelles restent donc impossibles à évaluer. Le périmètre est lui aussi restreint, puisque seules deux charges sont évoquées : des modèles de vecteurs de représentation chargés via la bibliothèque Transformers de Hugging Face, et de la génération de texte via Ollama. Il n'existe pas d'ordonnanceur central capable de découper un modèle et de le répartir entre les machines. Chaque exécuteur doit donc faire tourner le modèle en entier, ce qui exclut les plus gros, la quantité de mémoire de chaque Mac fixant directement ce qui peut y résider.
Le concept d'agrégation de ressources inutilisées n'est pas nouveau, mais Apple prolonge ici l'existant en l'adaptant à son propre matériel. Le contexte est favorable : les Mac Mini et Mac Studio se vendent très bien auprès d'entreprises comme OpenAI, Anthropic et Meta, désireuses de faire tourner des LLM en local. Reste à savoir si Apple transformera cette recherche en produit, ou si elle restera une publication destinée à montrer que ses machines ont leur place dans l'inférence à grande échelle. L'information a notamment été relevée par Apple Insider.
Pas d\'impact direct sur la France/UE