Comment une start-up crée des contrats façon Wall Street pour les tokens d'IA
WEKA, une société d'infrastructure de mémoire et de données pour l'IA, a fait des déclarations relayées cette semaine par The Information au sujet du lancement de Compute Exchange, une startup qui met déjà en relation propriétaires de puces et loueurs de GPU à court terme. Compute Exchange étend désormais ce modèle aux tokens, les unités que les entreprises paient réellement lorsqu'elles utilisent des modèles d'IA. La startup proposera des "token forwards", des contrats négociés de gré à gré permettant aux entreprises de verrouiller leurs prix de tokens sur des périodes allant jusqu'à six mois, afin de se couvrir contre les variations futures des coûts d'IA. Les clients pourront choisir parmi divers modèles, majoritairement à poids ouverts, proposés par six fournisseurs d'inférence déjà inscrits sur la plateforme. Parallèlement, Compute Exchange développe des "standardized token units", une méthodologie destinée à harmoniser les comparaisons de prix. Cette initiative fait écho à l'annonce, mardi, par CME Group d'un lancement en octobre de deux contrats à terme sur GPU cotés en bourse, sous réserve d'un examen réglementaire.
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Cette évolution répond à une explosion de la consommation de tokens, portée par l'inférence, c'est-à-dire le processus par lequel les modèles reçoivent des requêtes et produisent des réponses. Selon Deloitte, l'inférence représentera environ deux tiers des charges de travail liées à l'IA d'ici fin 2026, contre un tiers en 2023, sous l'effet de la montée des agents autonomes. Après une phase où des entreprises comme Meta Platforms encourageaient l'usage massif de tokens via des classements internes compétitifs, un phénomène surnommé le "tokenmaxxing", des sociétés comme Uber et ServiceNow ont annoncé avoir épuisé leur budget annuel d'IA en quelques mois seulement, entraînant de nouvelles restrictions sur les dépenses des employés. Pour Val Bercovici, chief AI officer de WEKA, société spécialisée dans l'infrastructure de données et de mémoire pour l'IA, verrouiller le prix des tokens aiderait entreprises et startups à mieux maîtriser leurs dépenses : "tout le monde s'efforce de comprendre ses factures cloud", a-t-il déclaré, ajoutant que le "tokenmaxxing" est passé d'un signe de fierté à un motif de honte.
Ce mouvement s'inscrit dans une tendance plus large visant à importer des mécanismes de couverture financière, inspirés de Wall Street, dans l'économie de l'intelligence artificielle. Alors que des milliers de milliards de dollars doivent être investis dans les puces et les centres de données, acheteurs et vendeurs cherchent des outils pour stabiliser leurs coûts et leurs retours sur investissement, ce qui a déjà donné naissance à des marketplaces de location de GPU. Bercovici pointe la complexité croissante liée à des modèles plus grands, des fenêtres de contexte élargies, des agents capables de fonctionner de manière autonome pendant des jours voire des semaines, ainsi que l'émergence de nouvelles menaces de cybersécurité, autant de facteurs qui rendent le marché des tokens opaque. Il estime que ce marché a besoin de chambres de compensation pour gagner en transparence. Les "token forwards" ne sont pas des contrats à terme standardisés comme ceux prévus par CME Group, mais ils représentent une étape supplémentaire vers une financiarisation plus poussée des coûts liés à l'intelligence artificielle.
Les entreprises europeennes utilisant l'IA pourraient beneficier indirectement de ces futurs outils de couverture des couts de tokens, mais aucune entite francaise ou europeenne n'est impliquee dans cette initiative.