Qu'est-ce que la dérive de tokenisation et comment y remédier ?

Ce que c'est de travailler avec Mythos

Claude 5 Fable, le premier modèle de la classe Mythos d'Anthropic à être rendu public, a fait l'objet d'un test approfondi par un chercheur ayant bénéficié d'un accès anticipé. Contrairement à la plupart des discussions qui se sont concentrées sur les implications pour la cybersécurité, ce test a couvert un spectre beaucoup plus large de cas d'usage. Les résultats sont frappants : Fable surpasse systématiquement tous les autres modèles publics testés jusqu'ici, sur des tâches aussi variées que la rédaction académique, la création littéraire ou le développement logiciel. Le modèle est capable de travailler de manière autonome jusqu'à une douzaine d'heures sur des spécifications complexes de plusieurs pages. À titre d'illustration, il a produit, à partir d'un seul prompt, un article de sciences sociales qualifié de "le plus sophistiqué jamais vu par une IA", ainsi qu'un poème épique de dix pages dont chaque mot commence par la lettre "s". Il a également développé plusieurs jeux vidéo complets à partir de descriptions vagues, en générant tous les éléments graphiques uniquement par le calcul mathématique, sans aucune image externe. Ce bond qualitatif n'est pas qu'une question de performances sur des benchmarks. Ce qui change fondamentalement, c'est la nature de l'interaction entre l'humain et l'outil : il suffit de formuler une intention pour qu'elle se matérialise. Le cas d'une carte isochrone illustre parfaitement ce saut. Ces cartes, inventées en 1881 pour visualiser les temps de trajet depuis Londres, n'avaient jamais pu être correctement générées par un modèle d'IA en raison de leur complexité : elles nécessitent de croiser des milliers de données de trajets (avion, train, voiture, marche) avec une multitude de micro-décisions. Fable a non seulement accompli cette tâche, mais en lançant lui-même plusieurs sous-agents (dont des instances de Claude Sonnet) pour collecter les données, il a récupéré plus de 2 200 vols spécifiques ainsi que les horaires de trains réels, produisant une carte fonctionnelle et esthétiquement soignée dans le style de la carte originale de 1881. Cette capacité à orchestrer d'autres IA de manière autonome marque une rupture avec les modèles précédents et soulève des questions plus larges. Anthropic positionne la classe Mythos comme une nouvelle génération de modèles "agents", capables de piloter des projets longs et complexes sans supervision constante. Le fait que Fable soit bridé sur les thématiques de cybersécurité suggère qu'Anthropic anticipe des risques d'usage malveillant à un niveau inédit. Pour les professionnels, chercheurs et développeurs, ce modèle représente moins un assistant amélioré qu'un collaborateur autonome capable de planifier, chercher, déléguer et livrer. La question n'est plus de savoir si l'IA peut faire le travail, mais de comprendre ce que cela change à la manière dont on travaille.

Combien de tokens me reste-t-il ? La question que Claude n’arrivera peut-être jamais à résoudre

Anthropic fait face depuis plusieurs semaines à des tensions croissantes autour de la gestion des quotas de tokens de Claude, son assistant IA. Les limites d'utilisation, qui déterminent combien de messages un utilisateur peut envoyer avant d'être temporairement bloqué, sont devenues imprévisibles : certains abonnés payants se retrouvent bridés sans avertissement clair, incapables de savoir combien de capacité il leur reste. L'entreprise américaine a reconnu le problème et procède à des ajustements à chaud, sans pour autant fournir de calendrier précis pour une solution pérenne. Le problème touche en priorité les utilisateurs professionnels et les développeurs qui intègrent Claude dans leurs flux de travail quotidiens. Pour eux, une limite opaque n'est pas un simple désagrément : c'est une rupture de service qui bloque des projets, force des migrations vers des alternatives et érode la confiance dans la plateforme. L'impossibilité de mesurer sa consommation en temps réel empêche toute planification, ce qui tranche avec les standards attendus d'un outil B2B. Cette situation illustre la tension structurelle à laquelle Anthropic est confrontée : le succès fulgurant de Claude dépasse la capacité d'infrastructure de l'entreprise à absorber la demande sans frictions. Anthropic, qui a levé plusieurs milliards de dollars ces dernières années, investit massivement dans ses capacités de calcul, mais la montée en charge reste un défi en temps réel. Dans un secteur où OpenAI, Google et Meta se disputent les mêmes utilisateurs, chaque friction devient un argument commercial pour la concurrence.

#Nextquick : Pourquoi et comment Opus 4.7 crame ses tokens beaucoup plus vite qu’Opus 4.6

Depuis le lancement d'Opus 4.7, de nombreux utilisateurs d'Anthropic constatent que leur forfait de tokens s'épuise nettement plus vite qu'avec la version précédente du modèle. Les tarifs affichés sont pourtant identiques : 5 dollars par million de tokens en entrée et 25 dollars par million en sortie, exactement comme pour Opus 4.6. Mais Anthropic reconnaît lui-même qu'une même requête peut consommer entre 1,0 et 1,35 fois plus de tokens avec Opus 4.7, selon le type de contenu, en raison d'un nouveau tokeniseur intégré au modèle. À cela s'ajoute un comportement de raisonnement plus intensif : Opus 4.7 génère davantage de tokens de sortie lorsqu'il fait face à des tâches complexes, car il mobilise un effort cognitif plus soutenu. Des tests comparatifs sur des prompts simples ont mis en évidence une consommation supérieure de 41 % par rapport à Opus 4.6. Claude Code, l'outil de développement assisté d'Anthropic, était particulièrement touché, avant qu'Anthropic n'intervienne pour réduire la verbosité des réponses. Cette sur-consommation a des conséquences financières directes et non négligeables pour les développeurs et les entreprises qui utilisent l'API à grande échelle. À usage identique, le coût réel d'Opus 4.7 dépasse celui d'Opus 4.6 malgré un tarif affiché identique, ce qui brouille la lisibilité budgétaire pour les équipes techniques. Pour les abonnés aux forfaits à volume fixe, c'est une érosion accélérée des quotas mensuels, parfois sans modification de leurs pratiques d'utilisation. Le problème touche aussi bien les développeurs indépendants que les équipes professionnelles intégrant Claude dans des pipelines automatisés. Ce décalage entre prix nominal et coût réel illustre une tension croissante dans l'industrie des LLM : les modèles deviennent plus capables, mais leur économie d'usage se complexifie. Le passage à un nouveau tokeniseur, décision technique invisible pour l'utilisateur final, peut bouleverser les budgets sans que les grilles tarifaires ne changent d'un centime. Anthropic a partiellement corrigé le tir en limitant la longueur des réponses, mais la question de la transparence sur le coût effectif des tokens reste ouverte, d'autant que les prochaines versions de Claude continueront probablement d'évoluer dans cette direction de raisonnement étendu.

💬 41% de tokens en plus sur des prompts simples, avec un tarif affiché inchangé, c'est une hausse de prix déguisée. Le nouveau tokeniseur d'Opus 4.7 est une décision technique totalement invisible pour l'utilisateur, mais elle peut faire sauter des budgets entiers sans que personne n'ait changé la moindre ligne de code. Bonne chance pour l'expliquer à ton DAF.

Mais au fait, c’est quoi la Retrieval-Augmented Generation (RAG) ?

La Retrieval-Augmented Generation (RAG) est une architecture qui combine deux composants distincts : un moteur de recherche documentaire et un modèle de langage (LLM). Concrètement, lorsqu'un utilisateur pose une question, le système commence par interroger une base de données externe pour extraire les passages les plus pertinents, puis transmet ces extraits au LLM qui les intègre dans sa réponse. Introduite dans un article de recherche de Meta en 2020, cette technique s'est imposée comme l'une des approches dominantes du déploiement d'IA en entreprise. L'enjeu est de taille : les LLMs seuls souffrent d'une connaissance figée à leur date d'entraînement et hallucinent des faits avec assurance. Le RAG corrige ces deux défauts en ancrant les réponses dans des documents vérifiables et actualisables — contrats internes, bases de connaissances, documentation technique — sans nécessiter de réentraînement du modèle. Des entreprises comme Notion, Salesforce ou Mistral AI intègrent désormais cette approche au cœur de leurs produits. Le RAG est devenu incontournable parce qu'il offre un compromis pragmatique entre coût et fiabilité : fine-tuner un modèle coûte cher et reste rigide, tandis que le RAG permet une mise à jour continue des sources. La prochaine frontière s'appelle le RAG agentique, où le système décide lui-même quelles sources interroger et en quelle séquence, rapprochant encore davantage ces architectures d'un raisonnement autonome.