Les entreprises paient trop cher des requêtes IA simples : la passerelle de Snowflake redirige désormais vers moins cher (jusqu'à 3x)
Les entreprises utilisant l'intelligence artificielle à grande échelle paient souvent trop cher pour des requêtes simples, faute d'orienter chaque tâche vers le modèle le plus adapté. Snowflake a annoncé une mise à jour de son Cortex AI Gateway, lancé en juillet 2026, qui introduit désormais un routage dynamique des modèles. Concrètement, les entreprises peuvent choisir l'option "auto" plutôt qu'un modèle fixe, et le système redirige automatiquement chaque tâche vers le modèle offrant le meilleur rapport qualité-coût. Selon des tests internes de l'entreprise, cette fonctionnalité peut réduire les coûts en tokens jusqu'à 3 fois sur certaines charges de travail. Le mécanisme repose sur deux approches complémentaires : un modèle plus petit tente d'abord de traiter la requête et, s'il échoue, fait appel à un modèle plus puissant comme outil ; en parallèle, un classificateur entraîné sur l'historique des requêtes oriente automatiquement les questions simples vers des modèles moins coûteux. Les clients gardent la possibilité de restreindre le routage à un modèle ou un ensemble défini de modèles, sans frais supplémentaire puisque Snowflake facture uniquement à l'usage de tokens.
Résumé et traduction réalisés par Le Fil IA à partir de VentureBeat AI. Lire l'article original →
Cette évolution répond à un problème concret identifié par Snowflake en interne : des questions simples étaient souvent traitées par ses modèles les plus performants, donc les plus chers et les plus lents, sans nécessité. Pour Baris Gultekin, vice-président IA chez Snowflake, la construction d'agents d'entreprise de qualité exige de bien maîtriser à la fois le contexte, la gouvernance et le choix du modèle, ces trois éléments étant indissociables. Le routage s'appuie sur les mêmes contrôles d'accès basés sur les rôles déjà utilisés pour la gouvernance des données, étendus aux modèles puis aux agents, qui peuvent se voir attribuer des privilèges plus restreints que l'utilisateur qui les invoque. Toute l'inférence, qu'il s'agisse de modèles ouverts ou propriétaires, reste à l'intérieur du périmètre de sécurité de Snowflake, un point particulièrement sensible pour des modèles open source d'origine non américaine comme DeepSeek-V4-Flash et GLM-5.3, tous deux développés en Chine.
Cette annonce s'inscrit dans une tendance plus large de l'industrie : Databricks, AWS, Google Cloud et Nvidia ont chacun présenté leur propre technologie de routage de modèles. Snowflake mise également sur l'acquisition récente de Natoma, qui apporte plus de 100 connecteurs MCP à accès restreint, permettant par exemple à un agent de n'obtenir qu'un accès en lecture seule à un outil comme la messagerie plutôt que des permissions plus larges. L'entreprise a par ailleurs présenté ses outils Horizon Context et Cortex Sense, conçus pour fournir du contexte en amont aux modèles. Selon Gultekin, sans ce contexte préétabli, un modèle doit lui-même explorer les données, écrire et tester du code SQL, chercher et corriger ses erreurs, un processus coûteux qui nécessite généralement un modèle plus puissant. En fournissant ce contexte à l'avance, Snowflake permet à des modèles plus simples et moins chers de réaliser le même travail.
Pas d'impact direct sur la France/UE