La crise des puces IA frappe particulièrement fort les neolabs
Evan Morikawa, cofondateur de Generalist, une startup qui entraîne des modèles d'intelligence artificielle pour la robotique, a récemment sollicité environ dix-sept fournisseurs de cloud différents pour trouver l'accès aux processeurs graphiques nécessaires à l'entraînement de ses modèles. L'hiver dernier, lorsqu'il cherchait plusieurs centaines de puces, les fournisseurs proposaient encore des contrats à des prix raisonnables sur des durées aussi courtes qu'un an. Six mois après avoir signé un tel contrat, Generalist a eu besoin de davantage de puissance de calcul, poussant Morikawa à repartir en quête d'environ un millier de puces supplémentaires. Il compare cette chasse aux capacités de calcul à une expédition lointaine, plaisantant que revenir d'une négociation réussie équivaut, lors d'un dîner à San Francisco, à rentrer d'un voyage en Extrême-Orient. Selon lui, connaître le prix courant des GPU est devenu une véritable monnaie d'échange pour les investisseurs en capital-risque.
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Cet épisode illustre un rapport de force nouveau dans l'écosystème de l'intelligence artificielle. Contrairement aux géants comme OpenAI, qui disposent de ressources considérables pour sécuriser leurs clusters de calcul, les neolabs, ces startups qui entraînent leurs propres modèles plutôt que d'utiliser des API existantes, doivent consacrer une part disproportionnée de leurs fonds limités à l'achat d'accès à des centaines, voire des milliers, de processeurs graphiques. Pour ces jeunes entreprises, la capacité à obtenir du calcul au bon prix et au bon moment détermine désormais leur survie autant que la qualité de leur technologie, ce qui redéfinit les critères que les investisseurs utilisent pour juger leurs chances de réussite.
Cette tension s'inscrit dans une crise plus large de l'approvisionnement en puces d'intelligence artificielle, qui complique déjà la tâche des plus grands acteurs du secteur, OpenAI en tête, à mesure que la demande pour l'entraînement et le déploiement de modèles toujours plus puissants explose. Confrontés à une demande qui dépasse largement l'offre disponible, les fournisseurs de cloud ajustent leurs prix et raccourcissent parfois la visibilité qu'ils offrent à leurs clients, forçant des fondateurs comme Morikawa à renégocier en permanence plutôt qu'à planifier sereinement leur croissance. Le cas de Generalist met en lumière un enjeu qui dépasse une seule entreprise : dans un secteur où l'accès au matériel devient aussi stratégique que le talent ou les données, les startups qui n'anticipent pas leurs besoins en calcul risquent de se retrouver distancées par des concurrents mieux préparés ou mieux financés.
Les startups europeennes d'IA font face aux memes tensions d'approvisionnement en GPU, ce qui alourdit leurs couts d'entrainement de modeles.