ACRouter choisit le modèle d'IA le plus adapté à chaque tâche, réduisant les coûts de 2,6 fois par rapport à un usage exclusif d'Opus

Un nouveau framework open source baptisé Agent-as-a-Router s'attaque au routage de modèles d'IA en entreprise, un maillon de plus en plus central de la pile technologique IA. Son implémentation concrète, ACRouter, a été testée par les chercheurs sur des tâches réelles de codage et de workflows agentiques, et a nettement surpassé à la fois les routeurs statiques classiques et la stratégie coûteuse consistant à tout envoyer systématiquement vers un modèle premium comme Claude Opus, avec un gain de coût mesuré à 2,6 fois sans sacrifier les performances. Contrairement aux routeurs traditionnels, qui reposent soit sur des règles heuristiques écrites à la main (par exemple rediriger vers GPT-5.5 si le prompt contient certains mots-clés, sinon vers un modèle open source comme Kimi K2.7), soit sur des classifieurs entraînés sur des données historiques, ACRouter fonctionne selon une boucle Context-Action-Feedback (C-A-F): il examine chaque nouveau prompt et ses métadonnées, consulte sa mémoire des tâches similaires passées, choisit le modèle le plus adapté, puis observe le résultat réel de l'exécution pour enrichir sa mémoire en vue des décisions futures.

Cette approche change la donne pour les équipes qui gèrent des infrastructures IA à grande échelle, car elle permet de remplacer des règles figées par un système qui s'auto-optimise en continu, sans nécessiter l'entraînement de modèles massifs ni la rédaction sans fin de nouvelles heuristiques. Concrètement, dans un pipeline d'analyse de données d'entreprise, si un modèle open source comme Kimi génère une requête SQL erronée à cause d'un nom de colonne halluciné, le système C-A-F détecte l'échec de compilation, l'enregistre comme signal négatif, et ajuste ses futurs choix de routage pour des requêtes similaires. Pour les équipes qui déploient de l'IA à grande échelle, cela représente un moyen concret de réduire les coûts tout en maintenant la qualité, en réservant les modèles les plus chers aux cas réellement complexes.

Le problème que ce framework cherche à résoudre est bien identifié: les routeurs classiques souffrent d'un déficit d'information structurel, puisqu'ils ne voient jamais si le modèle choisi a effectivement réussi sa tâche. Cela génère trois faiblesses majeures, à savoir un état de connaissance figé qui empêche toute accumulation de retours d'exécution, une mauvaise généralisation face à des situations hors distribution lorsque les usages évoluent en production, et une forte vulnérabilité au renouvellement rapide des modèles, un classifieur entraîné sur les modèles d'aujourd'hui pouvant devenir obsolète dès qu'un modèle plus performant apparaît la semaine suivante. En traitant le routeur comme un agent capable d'apprendre sur le terrain plutôt que comme un simple classifieur statique, les chercheurs proposent une réponse directe à ces limites, à un moment où la multiplication des modèles disponibles rend la question du choix automatique de plus en plus stratégique pour les entreprises.