Token Saver : une extension MCP open source avec RAG hybride local pour réduire de 90 à 99 % le coût en tokens des PDF sur Claude
Marktechpost AI Media Inc vient de publier Token Saver, une extension open source sous licence MIT pour le protocole MCP (Model Context Protocol) de Claude Desktop, actuellement en version 1.0. L'outil a été développé par Arnav Rai, étudiant en informatique au Rochester Institute of Technology, durant son stage chez Marktechpost, sous la supervision de Jean-Marc Mommessin et Asif Razzaq. Token Saver repose sur un système de RAG hybride local qui s'exécute directement sur la machine de l'utilisateur : le fichier PDF n'est jamais envoyé au modèle. Concrètement, l'extension combine deux méthodes de recherche, une correspondance par mots-clés via le moteur FTS5 de SQLite (pondérée à 0,4) et une recherche sémantique par similarité cosinus reposant sur le modèle d'embeddings local all-MiniLM-L6-v2 (pondérée à 0,6). Le traitement suit huit étapes : extraction du texte via pypdfium2 (avec pypdf en secours), découpage en passages de 180 mots avec un chevauchement de 40 mots, notation hybride, filtrage qualité (seuil de similarité sémantique de 0,25 pour les passages sans mot-clé commun), déduplication, réduction aux phrases pertinentes, plafonnement du volume transmis à 8 000 caractères, puis mise en forme avec citation précise de la page source. Résultat annoncé : une réduction de la consommation de tokens de 92 à 99 %, sans configuration Python ni ligne de commande.
Le problème visé est bien connu des utilisateurs intensifs de Claude : lorsqu'un PDF volumineux est ajouté à une conversation, il n'est pas facturé une seule fois. Comme l'historique complet est renvoyé au modèle à chaque nouveau message, le document entier est repayé à chaque question de suivi. Or Claude convertit par défaut chaque page en image tout en extrayant le texte séparément, ce qui représente déjà 1 500 à 3 000 tokens par page rien que pour le texte. Le Prompt Caching et les Projects de Claude atténuent la facture mais ne changent rien au fait que le document complet transite par les serveurs du fournisseur. Pire, faire chercher deux paragraphes utiles dans un document de mille pages par le modèle lui-même est coûteux et propice aux hallucinations.
Cette initiative s'inscrit dans une tendance plus large de RAG local et de traitement de documents "on-device", portée par la multiplication des outils MCP autour de Claude Desktop depuis l'ouverture du protocole par Anthropic. En gardant le fichier sur le disque de l'utilisateur, Token Saver répond aussi à des préoccupations de confidentialité pour les professionnels manipulant des documents sensibles, tout en illustrant comment de simples étudiants ou petites équipes peuvent désormais construire des extensions MCP viables sans infrastructure lourde.
Dans nos dossiers
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.



