OpenAI lance GPT-Realtime-2.1 et GPT-Realtime-2.1-mini pour des agents vocaux a faible latence dans l'API
OpenAI a annoncé le lancement de deux nouveaux modèles dans son API Realtime, baptisés gpt-realtime-2.1 et gpt-realtime-2.1-mini, conçus pour les agents vocaux à faible latence. La version mini constitue la nouveauté la plus notable : il s'agit d'un modèle de raisonnement miniature dédié à la voix en temps réel, capable de traiter des entrées audio et texte via une connexion live, et facturé au même tarif que l'ancien gpt-realtime-mini. OpenAI a par ailleurs réduit la latence p95, c'est-à-dire le temps de réponse au 95e percentile qui capture les cas les plus lents, d'au moins 25% sur l'ensemble des modèles vocaux Realtime, grâce à un système de mise en cache amélioré. Le modèle plus complet, gpt-realtime-2.1, apporte de son côté une meilleure reconnaissance alphanumérique, une gestion plus fine du silence et du bruit, ainsi qu'un traitement amélioré des interruptions, tout en conservant le support de la voix à voix avec un niveau de raisonnement configurable, le suivi d'instructions et l'appel de fonctions.
Résumé et traduction réalisés par Le Fil IA à partir de MarkTechPost. Lire l'article original →
Cette capacité de raisonnement change concrètement le comportement des agents vocaux. Jusqu'ici, un agent qui déclenchait un appel de fonction restait souvent silencieux le temps de l'exécution, ce qui poussait l'utilisateur à croire que la conversation avait été coupée et à interrompre l'échange. Avec le raisonnement, le modèle peut désormais annoncer son action, par exemple "je vérifie votre commande maintenant", avant de l'exécuter, ce qui maintient la cohérence des tâches vocales à plusieurs étapes. Ce niveau de raisonnement est ajustable sur cinq paliers (minimal, low, medium, high, xhigh), le niveau low étant recommandé par défaut pour limiter la latence dans la plupart des usages en production. La mise en cache profite aussi directement aux coûts : pour gpt-realtime-2.1-mini, l'audio en entrée mis en cache tombe à 0,30 dollar par million de tokens contre 10 dollars pour de l'audio non caché, un écart qui profite surtout aux sessions longues où l'invite système reste en cache après le premier tour.
Cette évolution s'inscrit dans la logique de l'API Realtime d'OpenAI, qui traite et génère l'audio via un seul modèle plutôt que d'enchaîner des systèmes séparés de reconnaissance et de synthèse vocale, réduisant la latence tout en préservant les nuances de la parole. Sur le plan tarifaire, l'écart entre les deux modèles reste marqué : la sortie audio de gpt-realtime-2.1-mini coûte 20 dollars par million de tokens contre 64 dollars pour la version complète, soit un rapport de près de trois, laissant aux équipes de développement le choix d'arbitrer entre performance et coût selon leurs besoins, dans un marché des agents vocaux IA en pleine intensification.
Pas d'impact direct sur la France/UE