You.com lance Inference Router : 12 modèles open-weight avec un SLA de disponibilité de 99,9 %
You.com a lancé Inference Router, une API managée qui permet d'exécuter des modèles à poids ouverts en production. Le service, compatible avec les formats OpenAI et Anthropic, est accessible via https://api.you.com et route les requêtes entre 12 modèles, de GPT-OSS 120B (contexte de 125 000 tokens) à Kimi K3 (2,8 billions de paramètres) et Qwen3.8 Max (2,4 billions, architecture MoE), tous deux avec 1 million de tokens de contexte. Chaque requête passe d'abord par You.com Inference Direct, la capacité propre à l'entreprise, puis bascule vers des partenaires américains en cas de panne ou de saturation : Parasail, Wafer, Alibaba Cloud, Meta et Inception, Prime Intellect devant suivre. L'offre inclut un SLA de disponibilité d'au moins 99,9 %, une rétention zéro des données, un hébergement 100 % américain et une recherche web côté serveur. Elle est facturée à l'usage, sans frais de plateforme. Les tarifs vont de 0,097 $ en entrée et 0,73 $ en sortie par million de tokens pour GPT-OSS 120B à 2,85 $ et 14,25 $ pour Kimi K3. Sur le benchmark LiveNewsBench de You.com, GLM-5.3 couplé à la recherche maison a obtenu 86,53 % pour 0,0485 $ par question, contre 0,0920 $ pour Claude Sonnet 5.5 (résultats publiés par l'entreprise).
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
L'enjeu touche surtout les équipes qui testent des modèles ouverts sur des agrégateurs, puis voient leur migration bloquée par la revue de sécurité. Les responsables posent des questions sur la rétention zéro, l'hébergement aux États-Unis, les contrôles d'accès et les accords de traitement des données (DPA). Les fournisseurs dédiés répondent à ces exigences, mais exigent souvent un engagement important. Inference Router vise cet entre-deux : le basculement entre fournisseurs ne modifie pas la facture, car chaque modèle n'a qu'un seul prix publié. La rétention zéro couvre les appels aux modèles et la recherche web : les prompts et sorties sont traités en mémoire, sans stockage, seules des métadonnées opérationnelles (nombre de tokens, horodatages, identifiants de compte) étant conservées. Les hachages de prompts, textes dépersonnalisés et caches sur disque sont explicitement exclus. L'infrastructure est conforme SOC 2, avec plafonds de dépenses par clé API et suivi quotidien par modèle, coût et fournisseur.
Côté prix, l'avantage reste limité : Kimi K3 est facturé seulement 5 % de moins que chez Together AI (3,00 $ et 15,00 $). La différenciation tient davantage à la conformité et à l'intégration. Les développeurs déclarent un outil websearch ou webextract et le routeur exécute les recherches, jusqu'à 20 résultats par recherche et 30 tours par défaut, avec des citations dans un objet web_results. La recherche tourne sur le même serveur que le modèle, ce qui réduirait la latence jusqu'à 15 % selon des tests internes. You.com met aussi en avant l'absence de frais de plateforme, face aux 5,5 % d'OpenRouter.
Le lancement s'inscrit dans la montée en puissance des modèles à poids ouverts, désormais compétitifs avec les modèles propriétaires sur de nombreuses tâches, et dans la concurrence entre agrégateurs comme OpenRouter, fournisseurs spécialisés comme Together AI et acteurs cherchant à se positionner sur la conformité d'entreprise. You.com, connu pour son moteur de recherche et ses API de recherche pour l'IA, capitalise sur cet atout en combinant inférence et récupération d'informations. Les résultats de benchmark étant auto-déclarés, ils restent à confirmer indépendamment. La suite dépendra de l'arrivée de nouveaux partenaires d'hébergement et de l'adoption par les entreprises soumises à des exigences strictes de souveraineté et de confidentialité des données.
Hébergement 100 % américain et partenaires américains uniquement : les entreprises françaises et européennes soumises au RGPD et à des exigences de souveraineté devront évaluer ce service avec prudence.