Aller au contenu principal

Blackwell· sujet

147 articlesmis à jour le 7 septembre 2026

Suivi de l'architecture GPU Blackwell de Nvidia : puces, performances, disponibilité et adoption pour l'entraînement et l'inférence des modèles d'IA.

Hub d'actualité sur Blackwell, agrégé en continu depuis 46 sources éditoriales. Pour les analyses long-form, voir /analyses.

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Le pouls du sujet · 30 derniers jours

données Le Fil IA
26 13%
articles (vs 30j préc.)
3.1%
de la couverture IA
Souvent associé à
NVIDIAInférenceOpenAIAgenticAnthropic

Mesuré sur notre corpus de 46 sources, fenêtre glissante de 30 jours. Part de voix = part des articles IA de la période mentionnant Blackwell. Voir le Baromètre IA complet

À retenir · 30 derniers jours

Blackwell, c'est le nom de l'architecture de puces que NVIDIA a conçue pour entraîner et faire tourner les modèles d'IA. Sa position dans le paysage tient moins à une performance ponctuelle qu'à un rôle structurel : la plupart des grands modèles, qu'ils viennent d'OpenAI, d'Anthropic ou d'acteurs européens, sont entraînés sur ce type de matériel. Comprendre Blackwell, c'est comprendre où passe le goulot d'étranglement de toute l'industrie.

L'enjeu n'est pas seulement la carte graphique. NVIDIA assemble autour d'elle un édifice complet : processeurs maison, logiciels de déploiement, briques pour les robots et les usines, partenariats avec les États qui veulent leur «IA souveraine». Pour une entreprise, la question pratique devient : à quel coût accède-t-on à cette puissance, et à quel point dépend-on d'un seul fournisseur ?

C'est là que se joue la durée. Tant que l'alternative crédible (puces concurrentes, modèles moins gourmands, location cloud) reste limitée, Blackwell fixe le tempo et les prix de l'IA.

Dans ce hub, on suit ce qui compte sur le long terme : la disponibilité réelle des puces, le coût d'accès pour les acteurs français, la montée des alternatives, et l'extension de NVIDIA vers la robotique et les usines.

Analyses long-form sur Blackwell

Quand un sujet mérite un format long, c'est ici.

Toute l'actualité Blackwell

Flux automatique. Articles classés par pertinence, agrégés en continu.

1Le Big Data InfrastructureActu

Cisco Secure AI Factory : l’architecture qui veut simplifier l’IA en entreprise ?

Cisco a dévoilé une architecture de référence baptisée Secure AI Factory, conçue pour industrialiser le déploiement de l'intelligence artificielle en entreprise. Elle repose sur l'intégration de plusieurs briques technologiques au sein d'un même environnement : les serveurs UCS de Cisco, la technologie réseau Silicon One, des GPU NVIDIA Blackwell, des solutions de stockage, des logiciels d'orchestration et des outils de sécurité. Le calcul s'appuie notamment sur des GPU Blackwell capables de faire tourner des modèles comportant plusieurs milliards de paramètres, tandis que le réseau utilise des commutateurs Ethernet atteignant 800 Gbit/s pour assurer la circulation rapide des données entre les nœuds de calcul. Selon les éléments communiqués, le centre d'innovation de TD Synnex à Paris exploite désormais cette plateforme, ce qui en fait l'une des premières implémentations concrètes de l'architecture en France. L'enjeu principal de Secure AI Factory est de faciliter le passage de la phase d'expérimentation à un déploiement de l'IA à grande échelle, une étape qui pose souvent problème aux entreprises. Tester un modèle sur une infrastructure limitée est relativement simple, mais la complexité augmente fortement dès lors que ce modèle doit être partagé entre plusieurs équipes, connecté à des données sensibles et intégré aux systèmes de production. En assemblant elles-mêmes des composants provenant de fournisseurs différents, les entreprises s'exposent à des difficultés d'intégration, d'administration et de sécurisation qui peuvent ralentir ou faire échouer leurs projets d'IA. En proposant une architecture préintégrée, Cisco cherche à réduire ces frictions, à sécuriser les données manipulées par les modèles et à offrir une infrastructure capable d'accompagner la montée en charge des besoins en IA sans nécessiter une reconstruction complète à chaque étape. Cette initiative s'inscrit dans un mouvement plus large où les grands équipementiers et fournisseurs de cloud cherchent à proposer des architectures de référence clés en main pour l'IA générative, à mesure que les infrastructures nécessaires (calcul, réseau, stockage, sécurité) gagnent en complexité. Cisco mise sur son partenariat avec NVIDIA et sur son savoir-faire réseau pour se positionner face à d'autres offres intégrées du marché, dans un contexte où la vitesse des échanges de données devient un facteur aussi critique que la puissance brute des GPU. L'adoption par un acteur comme TD Synnex, actif dans la distribution technologique, pourrait favoriser une diffusion plus large de cette architecture auprès d'entreprises cherchant à sécuriser et industrialiser leurs projets d'intelligence artificielle dans les mois à venir.

UELe centre d'innovation de TD Synnex à Paris déploie concrètement cette architecture, ce qui en fait l'une des premières implémentations en France.

1 source
Nvidia investit 2,5 milliards $ chez Thinking Machines : la guerre pour le contrôle de la stack IA
Illustration générée par IA
2Le Big Data 

Nvidia investit 2,5 milliards $ chez Thinking Machines : la guerre pour le contrôle de la stack IA

Nvidia négocie un investissement de 2,5 milliards de dollars dans Thinking Machines Lab, le laboratoire d'intelligence artificielle fondé début 2018 par Mira Murati, ancienne directrice technique d'OpenAI. Selon les révélations de The Information, relayées le 3 septembre 2026, cet apport s'inscrit dans un tour de table plus large d'au moins un milliard de dollars mené par le fonds Accel, sur la base d'une valorisation supérieure à 40 milliards de dollars, contre seulement 10 milliards lors de son précédent tour en 2025. La jeune pousse affiche déjà un chiffre d'affaires annuel dépassant 100 millions de dollars, généré notamment par sa plateforme Tinker et son modèle Inkling, destinés à l'adaptation de modèles sur des données propriétaires avec une facturation à l'usage. Ce soutien financier passe par NVentures, la filiale de capital-risque de Nvidia, qui multiplie ces derniers mois les prises de participation directes chez les développeurs de grands modèles de langage. Cet accord dépasse le simple placement financier : il s'agit pour Nvidia de garantir des débouchés commerciaux durables à ses architectures matérielles, en particulier sa gamme de processeurs Blackwell. En investissant chez ses propres clients, le fabricant de puces s'assure un usage prioritaire de ses composants dans les datacenters de Thinking Machines, renforçant la dépendance technologique du laboratoire tout en écartant les alternatives d'AMD ou les puces propriétaires des hyperscalers. Pour les entreprises et les directions informatiques, cette opération fait émerger un acteur crédible face au duopole formé par OpenAI et Anthropic, offrant une option supplémentaire pour l'entraînement et le déploiement de modèles. Mais elle accentue aussi la verticalisation du secteur, où l'accès au calcul devient le facteur déterminant de la capacité des laboratoires à innover, obligeant les décideurs à anticiper un risque accru de verrouillage technologique auprès d'un fournisseur unique. Cette manœuvre s'inscrit dans une stratégie plus large de Nvidia, qui cherche à sécuriser la demande future pour ses puces en finançant directement les laboratoires susceptibles de consommer massivement de la puissance de calcul. Thinking Machines a pourtant traversé des turbulences, avec le départ de plusieurs cofondateurs retournés chez OpenAI, sans que cela n'entame la confiance des investisseurs envers l'équipe restante autour de Mira Murati. La concentration des capitaux autour d'un nombre restreint de laboratoires d'IA générative pourrait redessiner les rapports de force entre fournisseurs de puces, hyperscalers et start-up, avec des conséquences directes sur la manière dont les entreprises choisiront leurs partenaires technologiques dans les mois à venir.

UECette concentration du capital autour des fournisseurs de puces et grands laboratoires accentue, pour les entreprises et directions informatiques européennes, le risque de dépendance et de verrouillage technologique auprès d'un fournisseur américain unique.

BusinessOpinion
1 source
Fin du cloud centralisé ? Le pari fou d’Equinix pour faire tourner 200 modèles open source
Illustration générée par IA
3Le Big Data 

Fin du cloud centralisé ? Le pari fou d’Equinix pour faire tourner 200 modèles open source

Equinix a annoncé la semaine du 1er septembre 2026 un partenariat majeur avec Nvidia et Together AI pour lancer une plateforme baptisée Inference Exchange, destinée à héberger plus de 200 modèles d'intelligence artificielle open source. Le dispositif s'appuiera sur les architectures de référence de Nvidia, notamment les puces Blackwell Ultra B300 et un système de refroidissement liquide conçu pour les futures puces Vera Rubin, tandis que Together AI gérera la couche logicielle donnant accès aux modèles. L'infrastructure sera déployée sur les 281 centres de données urbains d'Equinix à travers le monde, avec une disponibilité générale annoncée pour le premier trimestre 2027. Jensen Huang, le patron de Nvidia, a publiquement salué cette architecture maillée la semaine dernière, saluant sa capacité à traiter les données au plus près des utilisateurs et des capteurs plutôt que dans de gigantesques fermes de serveurs centralisées. Cette annonce marque un tournant stratégique dans l'industrie du cloud pour l'IA. Alors que l'entraînement des grands modèles reste l'apanage de méga data centers centralisés, la phase d'inférence, c'est à dire l'utilisation quotidienne des modèles par les applications, exige au contraire une faible latence et une proximité géographique avec les utilisateurs. En misant sur son maillage urbain existant plutôt que sur la course aux méga sites de plusieurs gigawatts menée par des acteurs comme CoreWeave, Equinix propose une alternative économique et rapide aux entreprises qui déploient des services d'IA générative. Pour les décideurs informatiques, cela signifie potentiellement des coûts d'inférence réduits et des temps de réponse plus courts pour leurs applications, sans avoir à dépendre exclusivement des géants du cloud comme Amazon ou Google. Ce choix s'inscrit dans un contexte financier contrasté au sein du secteur. L'action Equinix a bondi de 33 % depuis le début de l'année 2026, portant sa capitalisation boursière au delà de 100 milliards de dollars et dépassant celle de son concurrent Digital Realty. Son dernier trimestre affiche 477 millions de dollars de bénéfice net pour un chiffre d'affaires de 2,63 milliards de dollars, une rentabilité que certains analystes, comme Vlad Galabov, jugent pourtant trop prudente face à des rivaux comme CoreWeave, qui a accusé 626 millions de dollars de pertes sur la même période mais investit massivement dans des usines à IA de plusieurs gigawatts. Le vendeur à découvert Jim Chanos reste sceptique sur la rentabilité réelle des capitaux engagés dans ce secteur. En évitant l'affrontement direct avec les hyperscalers et en misant sur l'inférence de proximité, Equinix cherche à sécuriser une position de niche rentable dans un marché encore volatile.

UELe réseau de centres de données urbains d'Equinix inclut des sites en Europe, ce qui pourrait offrir aux entreprises européennes un accès à faible latence à l'inférence IA sans dépendre exclusivement des hyperscalers américains.

InfrastructureActu
1 source
NVIDIA et MediaTek propulsent l’IA locale : un tournant stratégique pour les données d’entreprise
Illustration générée par IA
4Le Big Data 

NVIDIA et MediaTek propulsent l’IA locale : un tournant stratégique pour les données d’entreprise

Nvidia et MediaTek ont officialisé le 31 août 2026 un partenariat stratégique majeur, confirmé par Nvidia sur son compte X et détaillé dans un communiqué officiel. Nvidia investit 3,5 milliards de dollars sous forme d'obligations convertibles dans le concepteur taïwanais de semi-conducteurs, afin de développer conjointement de nouvelles plateformes de calcul allant du cloud jusqu'à la périphérie du réseau, ou edge computing. L'accord prévoit que MediaTek adopte la technologie d'interconnexion NVLink Fusion de Nvidia. Concrètement, l'alliance donne déjà naissance à des puces personnalisées, les DGX Spark et RTX Spark, qui associent la microarchitecture graphique Blackwell de Nvidia à des cœurs de processeur SoC à très haute efficacité énergétique conçus par MediaTek. Ces composants reposent sur une interconnexion à haut débit NVLink-C2C et sur de la mémoire à large bande passante NVHBM, combinant ainsi la puissance de calcul de la firme de Santa Clara au savoir-faire de MediaTek en matière de puces économes. Cette évolution marque un changement d'architecture pour les entreprises qui utilisent l'intelligence artificielle générative. Jusqu'ici, la majorité des requêtes envoyées aux modèles d'IA transitaient par des serveurs cloud distants, facturés à l'usage via des API, ce qui génère des coûts opérationnels croissants et difficiles à maîtriser pour les directions informatiques. En déployant du matériel capable d'exécuter localement des modèles comptant plusieurs dizaines de milliards de paramètres, les entreprises transforment une dépense variable et exponentielle en investissement matériel prévisible, une logique proche des principes du FinOff. Cette IA locale répond aussi à des enjeux de confidentialité : garder le traitement des données sensibles au sein du réseau interne réduit les risques de fuite et facilite la conformité au RGPD. Enfin, pour des usages industriels critiques comme la vision par ordinateur, la maintenance prédictive ou la robotique, l'exécution sur site supprime la latence liée aux échanges avec le cloud et permet de continuer à fonctionner même en cas de coupure internet. Ce rapprochement s'inscrit dans une tendance plus large de bascule du cloud centralisé vers l'edge computing, portée par l'explosion des coûts d'infrastructure IA et les exigences réglementaires croissantes sur la souveraineté des données. En misant sur MediaTek, réputé pour ses systèmes sur puce à basse consommation utilisés notamment dans le mobile, Nvidia cherche à équiper directement postes de travail et stations professionnelles pour en faire de véritables supercalculateurs de bureau. Les développeurs et équipes data pourraient ainsi ajuster et exécuter des modèles volumineux sans solliciter d'infrastructure d'inférence distante, une orientation qui pourrait redéfinir la manière dont les entreprises consomment l'IA dans les mois à venir.

UEAucune entreprise française ou européenne n'est impliquée dans cet accord, mais la possibilité de traiter l'IA localement pourrait faciliter la conformité au RGPD pour les entreprises européennes qui adopteraient ce matériel.

InfrastructureActu
1 source
En Corée du Sud, l’IA générative bientôt érigée en service public
Illustration générée par IA
5Next INpact 

En Corée du Sud, l’IA générative bientôt érigée en service public

La Corée du Sud s'apprête à offrir à ses citoyens un accès gratuit et illimité à des services de chatbots basés sur l'intelligence artificielle générative, dans le cadre d'un vaste programme gouvernemental visant la « souveraineté IA ». Selon le Wall Street Journal, Séoul a sélectionné trois consortiums pour développer ces outils : l'un mené par l'opérateur télécom SK Telecom, un autre par KT, et le troisième par le groupe Kakao, éditeur de la super-app KakaoTalk déjà utilisée pour la messagerie, la réservation de VTC ou la gestion bancaire. Ces chatbots offriront des fonctionnalités classiques d'IA générative, mais aussi des services connectés aux plateformes publiques : prise de rendez-vous médicaux, petites annonces immobilières, conseils financiers, recommandations de contenus éducatifs pour les parents, ou encore calcul d'impôts et vérification d'éligibilité à des aides pour les petites entreprises. Les bêta-tests débuteront dès septembre 2026, avec un déploiement grand public prévu avant la fin de l'année. Pour soutenir cet effort, l'État coréen mettra à disposition des trois consortiums jusqu'à 512 puces B200 de NVIDIA, et financera une partie des coûts de service à partir de 2027. Cette initiative marque une étape inédite dans la manière dont un État conçoit l'IA générative : non plus comme un simple outil commercial, mais comme un service public au même titre que la santé ou l'éducation. Plus de 20 millions de Coréens utilisent déjà une version gratuite d'un chatbot IA, ce qui donne à ce projet une portée immédiate et massive. Pour les entreprises technologiques locales, c'est aussi une opportunité de consolider leur position face aux géants américains (OpenAI, Google, Microsoft) et chinois (Alibaba, DeepSeek), qui dominent largement le marché mondial des modèles de langage. Pour les citoyens, cela signifie un accès démocratisé à des outils d'IA sans les barrières de coût ni la dépendance à des plateformes étrangères, mais soulève aussi des questions sur la protection des données personnelles, ces bots étant connectés à des services gouvernementaux sensibles. Ce projet s'inscrit dans une stratégie plus large de « souveraineté IA » portée par le président sud-coréen Lee Jae-myung, qui a averti en novembre 2025 devant les parlementaires qu'un jour de retard dans la course à l'IA pourrait se traduire par un retard d'une génération entière, évoquant une véritable « question de survie ». Fin juin 2026, il a réaffirmé cette urgence en annonçant un plan massif d'investissement dans les usines de mémoire vive, désignant semi-conducteurs, IA physique et centres de données comme les trois piliers de cette ambition nationale. Le budget alloué à l'ensemble du programme s'élève à l'équivalent de 6,8 milliards de dollars pour la seule année 2026. Cette stratégie coréenne, qui combine infrastructures, puces, modèles de langage nationaux et formation des compétences, est observée de près par d'autres pays soucieux de ne pas dépendre entièrement des systèmes américains ou chinois, même si la promesse d'une IA gratuite pour tous au service du bien commun reste, selon certains observateurs, fragile à long terme.

UECe programme sud-coréen illustre une approche étatique de la souveraineté IA qui alimente les débats européens sur l'indépendance technologique face aux acteurs américains et chinois, sans impact direct sur la France ou l'UE.

💬 La Corée du Sud ne finance pas un chatbot, elle érige l'IA générative en service public au même rang que la santé ou l'éducation, et ça déplace la vraie bataille : oublie la course au meilleur modèle, la vraie question devient qui peut se permettre de le distribuer gratuitement à des dizaines de millions de citoyens. Sur le papier, 512 puces NVIDIA et trois consortiums locaux face à OpenAI et Alibaba, ça a de l'allure. Mais brancher ce bot sur les impôts, la santé et les aides sociales, c'est un pari sur la confiance qu'aucun pays occidental n'a encore osé tenter à cette échelle.

SociétéReglementation
1 source
Hot Chips : le Jalapeño d'OpenAI, le CS-5 de Cerebras, le LPX de Groq 3 et l'Apple M6
Illustration générée par IA
6Latent Space 

Hot Chips : le Jalapeño d'OpenAI, le CS-5 de Cerebras, le LPX de Groq 3 et l'Apple M6

Lors de la 37e édition de la conférence Hot Chips, OpenAI a dévoilé les premiers résultats de benchmarks de sa propre puce d'inférence, baptisée Jalapeño, moins d'un an après avoir annoncé son partenariat avec Broadcom pour concevoir des semi-conducteurs maison. Selon les chiffres publiés par l'entreprise, la puce affiche un rendement de 1,5 à 1,9 fois supérieur par watt, une latence de bout en bout réduite de 1,7 à 3,6 fois, et des performances jusqu'à 4,1 fois plus élevées sur les charges de travail interactives, comparée aux systèmes Nvidia GB200 et GB300. Classée pour une puissance de 700 watts, Jalapeño serait restée à 550 watts ou moins lors des tests réels. OpenAI prévoit de déployer la puce dans sa propre infrastructure d'ici la fin de l'année, avec une deuxième génération déjà bien avancée et une troisième en préparation, selon Sam Altman et les communications officielles de l'entreprise. Autre détail marquant, les modèles GPT-Astra et Codex ont directement participé à l'écriture et à l'optimisation des noyaux de calcul bas niveau de la puce, permettant de porter trois modèles à poids ouverts à haute performance en seulement deux mois, avec certains blocs d'attention et de mélange d'experts jusqu'à 1,8 fois plus rapides que le code écrit par des ingénieurs humains. La même conférence a aussi vu passer des annonces de Cerebras avec son CS-5, de Groq avec la puce 3 LPX, et d'Apple avec le M6. L'enjeu dépasse la simple performance brute. En réduisant l'habituel compromis entre débit et latence, OpenAI signale que les grands laboratoires d'intelligence artificielle ne sont plus forcément dépendants de Nvidia pour l'économie de leurs coûts d'inférence, un poste de dépense devenu central à mesure que les modèles sont déployés à grande échelle auprès de millions d'utilisateurs. Cela pourrait rebattre les cartes d'un marché des puces d'IA aujourd'hui largement dominé par Nvidia, en particulier si d'autres laboratoires suivent cette voie de la conception interne. Le fait que des modèles comme GPT-Astra et Codex participent eux-mêmes à l'optimisation du code bas niveau illustre aussi une tendance plus large, celle de l'automatisation croissante du travail d'ingénierie logicielle et matérielle par l'IA elle-même. Cette annonce s'inscrit dans la continuité du partenariat OpenAI-Broadcom révélé il y a moins d'un an, et des analystes comme ceux de SemiAnalysis ont jugé les résultats inhabituellement solides pour un circuit spécialisé de première génération, le comparant aux GB200 et GB300 de Nvidia, le rapprochement avec la future gamme Rubin reposant sur des chiffres publiés séparément. Un bémol de taille subsiste toutefois, la capacité de packaging avancé et de fabrication chez des fondeurs comme TSMC reste un goulot d'étranglement pour toute l'industrie. La conférence a par ailleurs mis en lumière une autre tendance de fond, celle de l'importance croissante des architectures logicielles entourant les modèles d'IA: une étude menée par Microsoft sur un système nommé AutoSaddler a montré que corriger automatiquement les invites, la configuration des outils et la logique de contrôle d'un agent pouvait apporter des gains de 9 à 10 points sur des tests comme GAIA2, SWE-Bench Pro et Terminal-Bench 2.0, parfois davantage que ne le ferait un changement de modèle sous-jacent.

UELa bataille des puces IA entre OpenAI, Nvidia, Cerebras et Groq pourrait a terme influencer les couts d'infrastructure IA disponibles aux entreprises européennes, mais sans impact direct sur la France ou l'UE.

💬 Le chiffre qui compte, c'est pas le 1,9x par watt, c'est que GPT-Astra et Codex ont écrit eux-mêmes une partie du code bas niveau de la puce. Selon Le Fil IA, OpenAI vient de montrer que sa dépendance à Nvidia n'est plus une fatalité technique, juste un calcul économique, à condition que TSMC suive côté fonderie. Sur le papier c'est du lourd pour un premier jet de puce maison, reste à voir si ça tient une fois Jalapeño déployée en vrai sur ChatGPT.

InfrastructureActu
1 source
IBM lance Granite 4.2 : raisonnement natif et RL à base d'agents pour ses modèles ouverts d'entreprise
Illustration générée par IA
7MarkTechPost 

IBM lance Granite 4.2 : raisonnement natif et RL à base d'agents pour ses modèles ouverts d'entreprise

IBM a annoncé la sortie de Granite 4.2, une nouvelle famille de modèles de langage open source disponibles en trois tailles : 3, 8 et 30 milliards de paramètres. Contrairement aux versions précédentes de Granite, conçues comme de simples assistants suivant des instructions, cette génération intègre un raisonnement explicite : chaque modèle peut produire une chaîne de pensée avant de répondre et propose un mode "réflexion" activable ou non, ainsi qu'un mode à faible effort pour les questions simples. Ces modèles sont des transformeurs denses entraînés à partir de zéro sur environ 15 000 milliards de tokens, puis affinés via une chaîne d'apprentissage par renforcement multi-étapes. Pour les versions 8B et 30B, cet entraînement inclut un volet d'apprentissage par renforcement agentique, où le modèle apprend à éditer du code, manipuler un terminal et effectuer des recherches web dans des environnements simulés réels. Les trois modèles sont publiés sous licence Apache 2.0, aux côtés de deux modèles vocaux Granite Speech 5.0 Turbo CTC de 470 millions de paramètres. Sur le plan des performances, le modèle 30B atteint 57% sur SWE-Bench Verified, 29,24% sur Terminal-Bench 2.1 et 89,17% sur AIME25. Cette annonce marque un tournant stratégique pour IBM sur le marché de l'IA d'entreprise : en misant sur des modèles ouverts, sous licence permissive et déployables localement, l'entreprise cible directement les organisations soumises à des contraintes réglementaires fortes, comme la finance, la santé ou le secteur public, qui ne peuvent pas toujours envoyer leurs données vers des API propriétaires. La licence Apache 2.0 lève tout obstacle juridique au téléchargement, au fine-tuning et à l'usage commercial, ce qui rend ces modèles accessibles aussi bien aux développeurs indépendants, qui peuvent faire tourner le 3B sur un simple ordinateur portable via Ollama ou LM Studio, qu'aux grandes entreprises disposant de clusters GPU haut de gamme pour le modèle 30B. En intégrant des capacités agentiques directement dans les modèles de taille moyenne et grande, IBM répond à une demande croissante pour des agents logiciels autonomes capables d'automatiser des tâches de développement, de DevOps ou de recherche documentaire, un segment jusqu'ici dominé par des modèles propriétaires plus coûteux. Le choix technique le plus révélateur de cette sortie réside dans le pipeline d'entraînement lui-même plutôt que dans l'architecture, restée un transformeur dense classique avec attention par groupes de requêtes et normalisation RMSNorm. L'affinage supervisé s'appuie sur 7,2 millions d'exemples, dont près de 70% concernent l'ingénierie logicielle, générés à partir de plusieurs environnements comme OpenHands, SWE-agent ou Codex, avec un contrôle qualité assuré par les modèles GPT-OSS-120B et Gemma 4 utilisés comme juges. La phase d'apprentissage par renforcement suit une séquence précise, de l'alignement général jusqu'à des blocs spécialisés en ingénierie logicielle, terminal et recherche, mais ce bloc agentique n'est appliqué qu'aux versions 8B et 30B, ce qui explique l'essentiel de l'écart de performance avec le modèle 3B. L'entraînement a mobilisé un cluster NVIDIA GB200 NVL72 hébergé par CoreWeave, ainsi que mille milliards de tokens de code synthétique issus du pipeline maison CodeAlchemy d'IBM, illustrant la course actuelle des grands acteurs technologiques pour combiner ouverture des modèles et compétitivité face aux offres fermées d'OpenAI, Google ou Anthropic.

UELes organisations européennes soumises a des réglementations strictes (secteur bancaire, santé, secteur public) pourraient bénéficier de modèles ouverts déployables localement sans transfert de données vers des API tierces.

💬 IBM joue une carte différente d'OpenAI ou Google : au lieu d'un modèle fermé toujours plus gros, elle sort du open source Apache 2.0 avec du raisonnement et de l'agentique intégrés dès la génération. Pour une banque ou un hôpital qui ne peut pas balancer ses données sur une API tierce, c'est exactement le genre de compromis qu'on attendait, du 30B qui code et navigue un terminal, sans sortir du datacenter maison. Reste à voir si les scores SWE-Bench tiennent la route sur du code métier réel, parce qu'un benchmark et une prod, ce sont deux histoires différentes.

LLMsOpinion
1 source
Pourquoi le Jalapeño d'OpenAI pourrait poser problème à Nvidia
Illustration générée par IA
8The Information AI 

Pourquoi le Jalapeño d'OpenAI pourrait poser problème à Nvidia

OpenAI a dévoilé mardi les premiers résultats de tests de Jalapeño, son tout premier processeur conçu en interne pour faire tourner ses modèles d'intelligence artificielle. L'entreprise affirme que la puce représente une avancée de performance significative, capable de traiter davantage de charges de travail par unité d'énergie tout en renvoyant des réponses plus rapidement. Le PDG Sam Altman a résumé la nouvelle en une phrase sur X : nous avons fabriqué une puce et elle est rapide. Le cabinet d'analyse SemiAnalysis, spécialisé dans les semi-conducteurs, a publié une évaluation indépendante concluant que Jalapeño surpasse le Blackwell de Nvidia, la puce phare actuellement utilisée par la quasi-totalité des grands laboratoires d'IA. Le nom du processeur, inspiré du piment, tombe toutefois mal : la Food and Drug Administration américaine met au même moment en garde contre la consommation de produits à base de jalapeños, en raison d'une épidémie de salmonelle liée à ce légume. Cette annonce marque une étape stratégique pour OpenAI, qui cherche à réduire sa dépendance vis-à-vis de Nvidia, dont les puces représentent l'essentiel des coûts d'infrastructure des géants de l'IA. Si les résultats se confirment à grande échelle, Jalapeño pourrait permettre à l'entreprise de réduire ses coûts de calcul, un enjeu crucial alors qu'elle dépense des dizaines de milliards de dollars pour entraîner et faire fonctionner des modèles comme GPT. Pour Nvidia, dont la valorisation boursière dépend largement de la demande de ses plus gros clients, l'émergence d'un concurrent interne chez l'un de ses plus importants acheteurs constitue un signal d'alerte, même s'il reste limité pour l'instant. Plus largement, cela confirme une tendance de fond : à l'image de Google avec ses puces TPU ou d'Amazon avec Trainium, les grands acteurs de l'IA cherchent tous à concevoir leur propre silicium pour ne plus dépendre entièrement d'un fournisseur unique. Ce mouvement s'inscrit dans une course engagée depuis plusieurs années par les géants technologiques pour internaliser la conception de leurs puces d'intelligence artificielle, face à la position dominante et aux marges élevées de Nvidia sur ce marché. OpenAI a multiplié ces derniers mois les investissements dans les infrastructures de calcul, notamment via des partenariats avec des fondeurs et des fournisseurs de mémoire, afin de sécuriser sa chaîne d'approvisionnement. Reste à savoir si les performances vantées par OpenAI et SemiAnalysis se confirmeront en conditions de production à grande échelle, et si Jalapeño restera un outil strictement interne ou sera un jour proposé plus largement, comme le fait déjà Google avec ses TPU.

💬 Le vrai signal, c'est pas la puce elle-même, c'est le fait qu'OpenAI ait besoin de la sortir alors qu'elle brûle déjà des dizaines de milliards chez Nvidia. Selon Le Fil IA, quand ton plus gros client se met à concevoir son propre silicium, c'est le premier vrai indicateur que la rente Nvidia a une date de péremption, même si elle reste confortable pour l'instant. Reste que SemiAnalysis évalue sur des specs annoncées, pas sur du déployé à grande échelle, donc l'histoire du "Jalapeño plus rapide que Blackwell" à vérifier en prod, pas sur un post X de Sam Altman.

InfrastructureActu
1 source
OpenAI dévoile Jalapeño, sa première puce maison, plus rapide que les Blackwell de Nvidia en inférence
Illustration générée par IA
9The Decoder 

OpenAI dévoile Jalapeño, sa première puce maison, plus rapide que les Blackwell de Nvidia en inférence

OpenAI a dévoilé lors de la conférence Hot Chips son premier processeur d'inférence conçu en interne, baptisé "Jalapeño". Des essais publiés par OpenAI sur InferenceX, le banc d'essai de la société d'analyse SemiAnalysis, placent cette puce devant les GB200 et GB300 de Nvidia en débit de calcul et en efficacité énergétique. SemiAnalysis, qui indique avoir relu ces exécutions avec les ingénieurs d'OpenAI sans conduire elle-même la suite complète, juge la comparaison incomplète : Jalapeño embarque de la mémoire HBM4 quand les GB200 et GB300 sont en HBM3E. Dylan Patel, patron de SemiAnalysis, a résumé la performance en soulignant que les puces de première génération sont habituellement peu compétitives, alors que celle d'OpenAI devance déjà les Blackwell de Nvidia. Le dépassement de la génération suivante, Vera Rubin, ne repose pas sur un face-à-face mais sur un recoupement avec des chiffres publiés séparément. Ces résultats ont été présentés publiquement lors de la conférence, un rendez-vous suivi de près par l'industrie des semi-conducteurs. Cette annonce marque un tournant potentiel dans la dépendance d'OpenAI envers Nvidia, qui fournit aujourd'hui l'essentiel de la puissance de calcul utilisée pour faire tourner ses modèles comme ChatGPT. Si Jalapeño tient ses promesses à grande échelle, OpenAI pourrait réduire ses coûts d'inférence, qui représentent une part croissante de ses dépenses à mesure que l'usage de ses produits explose, tout en gagnant en indépendance stratégique face à un fournisseur unique dont les prix et les délais de livraison pèsent sur l'ensemble du secteur. Cette démarche s'inscrit dans une tendance plus large où les grands acteurs de l'intelligence artificielle développent leurs propres puces pour limiter leur dépendance à Nvidia, à l'image de Google avec ses TPU, Amazon avec Trainium ou Microsoft avec Maia. OpenAI travaillerait notamment avec Broadcom sur la conception de ces circuits. Reste à voir si Jalapeño passera du stade des bancs d'essai à un déploiement massif dans les centres de données d'OpenAI.

💬 Jalapeño change la donne : pour la première fois, une puce maison bat Blackwell dès sa première génération, alors que d'habitude un round 1 se fait laminer. Ça veut dire qu'OpenAI peut viser une inférence moins chère sans dépendre entièrement de Nvidia, et vu que l'inférence bouffe une part croissante de leurs coûts, c'est stratégique, pas cosmétique. Reste à voir si ça tient la charge en datacenter réel, les bancs d'essai chez SemiAnalysis c'est une chose, un déploiement massif chez OpenAI c'en est une autre.

Les prix des puces IA Nvidia vont augmenter d'environ 17%, selon des fabricants de serveurs
Illustration générée par IA
10The Information AI 

Les prix des puces IA Nvidia vont augmenter d'environ 17%, selon des fabricants de serveurs

Les prix de certains systèmes de puces IA phares de Nvidia vont augmenter d'environ 17%, selon deux personnes dont les entreprises ont été informées par des fabricants de serveurs fournissant ces systèmes. Ces hausses concernent principalement les systèmes à base de puces Grace Blackwell 300 et Vera Rubin 200, dont la livraison est prévue l'an prochain. Selon les prix actuels des systèmes de puces destinés à un data center d'une capacité d'un gigawatt, ces changements pourraient faire grimper le coût total d'une telle installation d'au moins 5 milliards de dollars. Cette hausse tarifaire a des répercussions directes sur l'ensemble de la chaîne de valeur de l'intelligence artificielle, des hyperscalers qui construisent des infrastructures massives jusqu'aux entreprises clientes qui louent de la puissance de calcul. Les géants du cloud et les développeurs de grands modèles de langage, déjà engagés dans une course aux investissements colossaux pour bâtir des centres de données capables d'alimenter l'IA générative, verront leurs budgets d'infrastructure encore alourdis. Une telle augmentation risque aussi de peser sur la rentabilité des projets de data centers en cours de planification et pourrait inciter certains acteurs à revoir leurs calendriers ou à chercher des alternatives auprès d'autres fournisseurs de puces. Ces hausses interviennent dans un contexte de demande toujours extrêmement forte pour les puces Nvidia, qui dominent largement le marché des processeurs dédiés à l'entraînement et à l'inférence des modèles d'IA. Les fabricants de serveurs jouent un rôle d'intermédiaire clé entre Nvidia et les grands opérateurs de data centers, et leurs annonces aux clients donnent souvent un premier aperçu des évolutions tarifaires avant toute communication officielle de Nvidia. Alors que les investissements dans l'infrastructure IA se comptent déjà en dizaines de milliards de dollars pour les principaux acteurs du secteur, cette nouvelle hausse des coûts pourrait raviver les débats sur la soutenabilité financière de la course actuelle aux capacités de calcul.

UELes hyperscalers et entreprises européennes qui louent de la puissance de calcul Nvidia verront leurs couts d'infrastructure IA augmenter, sans qu'aucune entreprise française ou européenne ne soit directement citée.

💬 5 milliards de dollars, c'est ce que coûterait cette hausse de 17% sur un seul data center d'un gigawatt. Nvidia n'a même plus besoin de forcer, la demande est tellement forte que les fabricants de serveurs préviennent leurs clients avant même une annonce officielle. Reste que ça vient s'ajouter à des budgets déjà démentiels, et à un moment donné quelqu'un va devoir expliquer pourquoi la rentabilité de tout ça reste une hypothèse.

InfrastructureActu
1 source
Nvidia lance Nemotron 3.5 Lightning : Claude pourrait devenir beaucoup trop cher
Illustration générée par IA
11Le Big Data 

Nvidia lance Nemotron 3.5 Lightning : Claude pourrait devenir beaucoup trop cher

Nvidia a présenté le 11 août 2026 Nemotron 3.5 Lightning, un modèle en poids ouverts de type mixture-of-experts à 30 milliards de paramètres dont seulement 3 milliards activés à chaque passage, doté d'un contexte d'un million de tokens et déployable sur un DGX Spark, une carte H100 ou une GeForce RTX 5090. L'entreprise revendique jusqu'à quatre fois plus de vitesse et 30% de temps en moins sur des tâches agentiques face à des modèles ouverts comparables, avec poids et recettes d'entraînement publiés sous licence OpenMDW-1.1 sur Hugging Face. L'annonce s'accompagne de NeMo Switchyard, une bibliothèque qui choisit automatiquement quel modèle doit traiter chaque étape d'un agent selon la difficulté, le coût ou la latence, réservant les modèles premium comme Claude Opus aux tâches les plus complexes. Testé avec LangChain sur 145 tâches agentiques multi-étapes, ce routage entre Lightning et Claude Opus 4.8 a réduit le coût de 74%, avec seulement 7% des appels envoyés au modèle frontier, pour environ six points de précision perdus. Artificial Analysis attribue par ailleurs à Lightning un score de 24 sur son Intelligence Index, équivalent à gpt-oss-120b obtenu avec environ quatre fois moins de paramètres, et mesure près de 670 tokens par seconde avec les poids finaux au format NVFP4. Cette annonce vise le coût d'exploitation des agents IA en entreprise, où les tâches répétitives (appels d'outils, validation de résultats, revue de code) finissent par exploser la facture lorsqu'elles sont envoyées à un modèle frontier comme Claude Opus. En confiant l'essentiel du volume à Lightning et en ne remontant vers un modèle premium que les cas réellement difficiles, Switchyard promet de diviser les coûts par plusieurs sans sacrifier la qualité globale, selon les chiffres avancés par Nvidia. La licence ouverte permet en plus un hébergement local, un argument qui compte pour les entreprises réticentes à envoyer leur propriété intellectuelle vers une API externe. Pour Anthropic et les autres fournisseurs de modèles premium, le risque est de voir leur usage réduit aux seules tâches complexes, pendant que Nvidia capte l'essentiel du volume avec du matériel et des modèles qu'il maîtrise de bout en bout. Cette sortie s'inscrit dans une stratégie à double face : fin juin 2026, Nvidia avait annoncé l'arrivée de Claude sur ses GPU Blackwell Ultra, consolidant sa position de fournisseur d'infrastructure incontournable pour Anthropic. Six semaines plus tard, l'entreprise propose aux mêmes clients un moyen de limiter leur recours à Claude en misant sur ses propres modèles Nemotron, dont Lightning est présenté comme le successeur de Nemotron 3 Nano 30B. Sur le terrain des modèles ouverts concurrents, Qwen3.6 35B et Muse Glimmer restent devant Lightning sur l'intelligence générale mesurée par Artificial Analysis, qui a publié ses propres résultats indépendants dès le lancement. La suite dépendra de l'adoption réelle de Switchyard par les équipes qui construisent des agents en production, et de la réponse des fournisseurs de modèles premium face à cette pression nouvelle sur les prix.

UELes entreprises européennes construisant des agents IA pourraient réduire leurs couts et répondre a des exigences de souveraineté des données grâce a l'hébergement local de ce modèle ouvert.

💬 Ce qui me frappe, c'est que Nvidia vend l'infra qui fait tourner Claude et propose au même client de quoi s'en passer, tu sens le coup en deux temps. Lightning tout seul, c'est correct sans plus, il traîne derrière Qwen3.6 sur l'intelligence pure. Mais Switchyard change la donne : 74% d'économie pour six points de précision perdus, et le vrai risque pour Anthropic c'est de finir cantonné aux tâches compliquées pendant que Nvidia récupère tout le volume du quotidien.

LLMsOpinion
1 source
NVIDIA : le calcul d'IA en usine devient une classe d'actifs à part entière
Illustration générée par IA
12NVIDIA AI Blog 

NVIDIA : le calcul d'IA en usine devient une classe d'actifs à part entière

Le géant américain des semi-conducteurs NVIDIA a annoncé le 12 août 2026 des partenariats avec six des plus grands gestionnaires d'actifs et fonds d'investissement mondiaux, Apollo, BlackRock, Blackstone, Brookfield, Goldman Sachs et KKR, pour créer des plateformes de financement indépendantes destinées à mobiliser plus de 500 milliards de dollars de capitaux tiers afin de soutenir la construction d'infrastructures d'intelligence artificielle. L'entreprise présente ce mouvement comme un basculement d'un modèle où les sociétés achetaient des puces et bâtissaient des centres de données projet par projet, vers un modèle où ses usines d'IA, baptisées AI factories, deviennent des infrastructures productives financées comme des actifs à part entière. NVIDIA appuie sa démonstration sur des données de marché concrètes : le tarif de location d'un GPU H100 sur un an est passé d'environ 1,70 dollar de l'heure en octobre 2025 à 2,35 dollars en mars 2026, tandis que le prix médian à la demande, toutes plates-formes confondues, est passé de 2,00 à 2,70 dollars par heure entre octobre 2025 et juin 2026. Les puces Blackwell, plus récentes, se négocient avec une prime, entre 5,30 et 7,05 dollars par heure pour un GPU B200. L'entreprise rappelle aussi que ses puces A100, lancées en 2020, restent exploitées commercialement six ans plus tard, avec des engagements clients pluriannuels qui prolongent leur durée de vie économique vers une décennie. Cette annonce marque une étape importante pour l'industrie de l'IA car elle transforme la nature même du calcul informatique : au lieu d'être un simple poste de dépense en capital qui se déprécie, il devient une classe d'actifs générant des revenus récurrents, comparable à des infrastructures comme les routes à péage ou les réseaux électriques. Pour les investisseurs institutionnels que sont Apollo, BlackRock ou KKR, cela ouvre un nouveau terrain de déploiement de capitaux à long terme, avec un rendement adossé à la demande de calcul plutôt qu'à des actifs traditionnels. Pour les entreprises d'IA, cloud providers et laboratoires qui manquent aujourd'hui d'accès à des financements suffisants pour construire rapidement leurs propres capacités, ces plateformes promettent un accès facilité à des montants massifs de capitaux externes, sans que NVIDIA n'ait à financer elle-même l'ensemble de la demande mondiale en puces. Cette initiative s'inscrit dans un contexte où la demande en infrastructures d'IA dépasse largement les capacités de financement disponibles, alors que l'IA générative bascule de la phase de recherche vers une phase de production à grande échelle. NVIDIA cherche à démontrer que ses puces et son écosystème logiciel CUDA, qui améliore continuellement les performances du matériel déjà installé, constituent un socle suffisamment stable et rentable pour attirer des capitaux patients et non plus seulement des budgets d'investissement technologique classiques. L'entreprise s'appuie sur son architecture largement adoptée par les grands fournisseurs cloud, les fabricants de systèmes et les entreprises du monde entier pour argumenter que ses usines d'IA peuvent être redéployées auprès d'autres clients en cas de besoin, limitant ainsi le risque pour les investisseurs. Les modalités précises d'accès des laboratoires d'IA qualifiés à ces nouvelles plateformes de financement restent à préciser dans les prochains mois.

UELes entreprises et fournisseurs cloud européens pourraient accéder indirectement a ces nouvelles plateformes de financement pour développer leurs capacités de calcul IA, sans lien direct avec une entité française ou une régulation européenne.

💬 Le vrai signal ici, c'est le prix de location du H100 qui grimpe (1,70 à 2,35 dollars de l'heure en cinq mois) alors que la puce a cinq ans : ça veut dire que la demande de calcul dépasse la dépréciation technique, et c'est ça qui rend l'histoire "actif financier" crédible aux yeux de BlackRock ou KKR. Bon, sur le papier, 500 milliards ça fait rêver, mais faut voir combien de labos d'IA qualifiés auront vraiment accès à ces plateformes, les modalités restent floues. Reste que si NVIDIA arrive à faire financer ses usines comme des autoroutes à péage, elle sort du rôle de simple vendeur de puces pour devenir opérateur d'infrastructure, et ça change toute la mécanique de risque du secteur.

InfrastructureActu
1 source
LTX-2.5 : les poids ouverts d'un modèle monde accélérés par NVIDIA tiennent sur un seul bureau
Illustration générée par IA
13MarkTechPost 

LTX-2.5 : les poids ouverts d'un modèle monde accélérés par NVIDIA tiennent sur un seul bureau

La société LTX a lancé LTX-2.5, un modèle de génération vidéo dit "world model" à poids ouverts, conçu pour la production créative, les applications temps réel et l'IA physique. Optimisé pour tourner localement sur les cartes graphiques grand public NVIDIA RTX ainsi que sur le NVIDIA DGX Spark, il réduit fortement les besoins en mémoire vidéo (VRAM), permettant à un modèle de pointe de fonctionner sur du matériel que les créateurs possèdent déjà, directement dans l'interface ComfyUI. La sortie s'inscrit dans une série d'annonces de NVIDIA consacrée à l'IA locale tout au long du mois d'août, et coïncide avec le lancement, le même jour, du modèle d'agents ouvert Nemotron 3.5 Lightning. LTX-2.5 introduit une génération multishot native qui garantit la cohérence d'un personnage ou d'un style sur toute une séquence, s'appuie sur un backbone linguistique Gemma 4 amélioré et un nouveau décodeur limitant les artefacts dans les scènes à mouvement rapide. Sur le plan des performances, LTX affirme qu'un clip de 10 secondes est généré en 6,8 secondes en local sur deux GPU NVIDIA GB200, contre 23,7 secondes via son API. À titre de comparaison, les modèles fermés Omni Flash, Grok 1.5 et Veo 3.1 mettent entre 52 et 70 secondes, tandis que Seedance 2.0, FLUX 3, Seedance 2.5 et Kling 3.0 Pro nécessitent respectivement 196, 259, 317 et 398 secondes, soit un modèle jusqu'à 58 fois plus rapide que le plus lent. Cette rapidité change concrètement la manière de produire du contenu vidéo. Un créateur seul ou une petite équipe peut désormais générer, sans frais par clip ni abonnement au cloud, des dizaines de variantes d'une même publicité en une nuit, tester plusieurs accroches et adapter des campagnes à différents marchés avant même que la lassitude publicitaire, qui s'installe généralement en sept à dix jours selon LTX, ne s'installe. La propriété intellectuelle reste sur la machine locale, un argument de poids pour les studios et marques soucieux de confidentialité. Ce qui exigeait auparavant une équipe de tournage, une salle de rendu et une facture cloud tient désormais sur un seul poste équipé d'une carte RTX, avec un fine-tuning LoRA rapide suffisant pour verrouiller un style de marque. Ce lancement illustre une stratégie plus large de NVIDIA, qui pousse ses modèles ouverts accélérés du PC de bureau aux centres de données. Le même jour, l'entreprise a dévoilé Nemotron 3.5 Lightning, un modèle d'agents à mélange d'experts de 30 milliards de paramètres, ainsi que NeMo Switchyard, une bibliothèque open source qui répartit chaque étape d'un flux d'agents vers le modèle le plus adapté. LTX décrit sa famille de modèles comme fondatrice pour le cinéma, la publicité, le jeu vidéo, la simulation et la robotique, les "world models" cherchant à prédire non pas le mot suivant, comme les modèles de langage, mais le prochain instant d'un environnement simulé.

UELes studios et créateurs européens peuvent adopter gratuitement cet outil open source pour produire des vidéos en local, sans régulation ou acteur français/européen implique.

CréationActu
1 source
LTX-2.5 génère une vidéo IA de 10 secondes à partir d'une image en 6,8 secondes sur les superpuces Nvidia, et c'est open weights
Illustration générée par IA
14VentureBeat AI 

LTX-2.5 génère une vidéo IA de 10 secondes à partir d'une image en 6,8 secondes sur les superpuces Nvidia, et c'est open weights

LTX, la société de modèles de monde en open source issue de Lightricks, a lancé LTX-2.5, la nouvelle version de son modèle vidéo et de monde à poids ouverts. Le modèle s'intègre nativement dans ComfyUI, l'outil de workflow par nœuds devenu la référence pour prototyper des générations open source, dans le cadre d'un partenariat de lancement entre les deux entreprises. LTX-2.5 est disponible en accès libre sur Hugging Face, dans ComfyUI, et via l'API de LTX pour les équipes qui veulent une génération managée : gratuit pour les organisations sous 10 millions de dollars de revenus récurrents annuels, avec licence négociée au-delà. LTX revendique déjà 33 millions de téléchargements pour sa famille de modèles, ce qui en ferait la ligne de "modèles de monde" open source la plus utilisée du marché. Le co-fondateur et PDG de LTX, Zeev Farbman, a présenté en exclusivité à VentureBeat les nouveautés : un nouveau décodeur vidéo par diffusion qui réduit les artefacts visuels sur les scènes à fort mouvement, un support natif du multi-plans qui garde personnages, décor et voix cohérents sur une séquence entière, un socle de langage Gemma 4 personnalisé pour mieux traiter les prompts complexes, un checkpoint pré-entraîné pour l'IA physique et la robotique, ainsi qu'un modèle distillé amélioré tournant localement sur les GPU Nvidia RTX. Sur le plan des performances, LTX annonce la génération d'un clip de 10 secondes en 720p à partir d'une image en 6,8 secondes sur deux puces Nvidia GB200 haut de gamme auto-hébergées, plus rapide que le temps réel, contre 23,7 secondes via son API managée en 1080p. Cette accélération et cette ouverture des poids changent la donne pour les studios, développeurs indépendants et équipes de recherche qui veulent générer de la vidéo par IA sans dépendre exclusivement d'API fermées et coûteuses. LTX affirme que son modèle coûte environ huit fois moins cher et rend sept fois plus vite que des modèles comparables, avec un fonctionnement possible aussi bien sur des GPU de datacenter que sur un Mac. Dans des tests de préférence humaine à l'aveugle, LTX-2.5 obtient un taux de victoire de 67%, devant Seedance 2.5 (65%), Gemini Omni Flash de Google (55%), MiniMax H3 (50%), Seedance 2.0 (44%), Wan 2.6 (42%) et FLUX 3 (28%). Comparé à la concurrence sur la vitesse de génération, LTX cite des temps nettement supérieurs pour Gemini Omni Flash (52 secondes), Grok 1.5 de xAI (63 secondes), Veo 3.1 de Google (70 secondes pour un clip de 8 secondes), MiniMax H3 (180 secondes), Seedance 2.5 de ByteDance (317 secondes) et Kling 3.0 Pro de Kuaishou (398 secondes). Ce lancement s'inscrit dans une bataille plus large entre modèles vidéo à poids ouverts et API fermées, où LTX et ComfyUI parient que l'accessibilité et la personnalisation locale l'emporteront sur les services propriétaires verrouillés de géants comme Google, xAI, ByteDance ou Kuaishou. L'ajout d'un checkpoint dédié à la robotique et à l'IA physique signale aussi une ambition dépassant la simple génération de vidéos cinématographiques, en visant des usages industriels où les équipes pourront affiner le modèle sur leurs propres données. Toutes les mesures de vitesse et de qualité citées proviennent de LTX lui-même ou de tests commandités par l'entreprise, ce qui invite à la prudence en attendant des comparatifs indépendants. Reste à voir si l'écosystème ComfyUI, déjà central dans la communauté open source de génération d'images et de vidéos, parviendra à consolider LTX comme standard face à la pression des géants du cloud qui investissent massivement dans leurs propres modèles fermés.

💬 Ce qui compte ici c'est le chiffre : 6,8 secondes pour générer 10 secondes de vidéo, donc plus rapide que le temps réel. Sur le papier c'est la première fois qu'un modèle open weights bat ce seuil, et ça change le calcul pour les studios qui hésitaient entre API fermée et self-hosting. Reste que tous les benchmarks viennent de LTX elle-même, alors j'attends les tests indépendants avant de crier victoire, mais l'intégration ComfyUI day one, ça sent le vrai lancement, pas juste un paper.

CréationActu
1 source
NVIDIA lance NemotronLabs VoiceChat 11B, un modèle vocal en duplex intégral avec 450 ms de latence et appel d'outils en direct
Illustration générée par IA
15MarkTechPost 

NVIDIA lance NemotronLabs VoiceChat 11B, un modèle vocal en duplex intégral avec 450 ms de latence et appel d'outils en direct

NVIDIA a publié NemotronLabs VoiceChat 11B, un modèle ouvert de 11 milliards de paramètres capable de conversation vocale en duplex intégral, c'est à dire que l'agent écoute pendant qu'il parle. Contrairement aux architectures classiques qui enchaînent reconnaissance vocale, modèle de langage et synthèse vocale dans trois systèmes séparés, ce modèle traite la compréhension et la génération de parole dans un seul réseau unifié, ce qui supprime les échanges entre API et réduit la latence. Sur le benchmark Full-Duplex-Bench 1.0, la latence de transition de tour de parole mesurée est de 448 millisecondes, et le taux de prise de parole lorsqu'un utilisateur interrompt l'agent atteint 1,00 en 480 millisecondes. Le modèle est le premier système ouvert en duplex intégral à permettre l'appel d'outils pendant que la conversation continue, via un canal de sortie séparé dédié aux scripts au format TOOLCALL, complété par des phrases d'attente prédéfinies par l'opérateur pour éviter les silences pendant qu'une requête API s'exécute. L'architecture combine un encodeur vocal Fast Conformer issu de Nemotron-Speech-Streaming-En-0.6b, le modèle de langage Nemotron Nano v2 comme colonne vertébrale, et un décodeur de synthèse vocale NVIDIA produisant de l'audio à 22,05 kHz. L'entraînement a mobilisé environ 550 000 heures d'audio réel et synthétique, en s'appuyant sur les travaux SALM-Duplex et Audio Flamingo 3. Cette sortie compte parce qu'elle abaisse concrètement la barrière technique pour construire des agents vocaux réactifs capables d'interruption naturelle et d'actions en temps réel, un défi resté largement non résolu dans l'écosystème open source. Les secteurs visés sont nombreux: centres d'appels, assistants embarqués dans les véhicules, commande vocale en restauration rapide, modernisation des serveurs vocaux télécoms, dialogues de personnages non joueurs dans le jeu vidéo, et outils d'accessibilité. Mais NVIDIA précise que le modèle reste destiné à la recherche uniquement, pas à la production: le contexte audio est plafonné à deux minutes, le système peut dégénérer en réponses incohérentes après plusieurs tours d'échange, et des erreurs de transcription ou des prises de parole intempestives de l'agent après la fin d'un tour ont été documentées. L'accès reste réservé aux équipes disposant d'au moins un GPU de 80 Go de VRAM, comme les puces A100, H100, RTX 6000 Pro ou B200 sous Linux x86_64, puisqu'aucune API hébergée ni fournisseur d'inférence ne propose actuellement le modèle. Sur les benchmarks d'appel d'outils vocaux BFCL-v3, les scores restent modestes, avec 58,5% de réussite sur les appels simples et seulement 27,5% sur les appels multiples et parallèles combinés, tandis que NVIDIA recommande de limiter chaque session à cinq outils maximum. Le modèle se classe deuxième parmi les systèmes ouverts en duplex intégral sur les classements VoiceBench et Full-Duplex-Bench 1.0, ce qui en fait une base de travail prometteuse mais encore expérimentale pour les laboratoires de recherche, startups spécialisées en IA vocale et fournisseurs de cloud GPU qui voudront l'affiner avant tout déploiement réel.

💬 Le duplex intégral qui marche à 448 ms, c'est le vrai déblocage ici, pas le nombre de paramètres. Ça fait des années que l'appel d'outils en conversation vocale butait sur le silence gênant pendant qu'une API répond, et là ils le masquent avec des phrases d'attente, c'est bricolé mais ça fonctionne. Reste que "recherche uniquement", contexte à deux minutes et 27,5% de réussite sur les appels d'outils multiples, faut pas se leurrer, on est encore loin d'un centre d'appels en prod avec ça.

CréationActu
1 source
Pokee AI lance Pokee-Isaac 28B, un modèle à agents avec un contexte de 10 millions de tokens conçu pour tourner chez le client
Illustration générée par IA
16MarkTechPost 

Pokee AI lance Pokee-Isaac 28B, un modèle à agents avec un contexte de 10 millions de tokens conçu pour tourner chez le client

La start-up Pokee AI a dévoilé Pokee-Isaac 28B, un modèle de fondation texte de 28 milliards de paramètres doté d'une fenêtre de contexte de 10 millions de tokens, conçu pour tourner à l'intérieur du périmètre informatique du client plutôt que sur un cloud externe. Il atteint 93,3% sur le benchmark RULER à 10 millions de tokens, score maintenu à chaque palier testé, alors que GPT-5.6 Luna et Gemini 3.5 Flash Lite décrochent dès le million de tokens après avoir tenu jusqu'à 512 000. Distribué sous licence et non en poids ouverts, Isaac est accessible via une API compatible OpenAI, déployable en VPC, sur site ou en local, avec support dès le lancement pour vLLM et SGLang, et fonctionnerait sur un seul GPU grand public type RTX 4090, bien que les mesures publiées proviennent uniquement d'un GPU de classe B200. Le tarif annoncé, provisoire, est de 0,15 dollar par million de tokens en entrée et 1 dollar en sortie. Cette architecture vise les organisations où les données ne peuvent réglementairement pas quitter un périmètre défini : santé et assurance, services financiers, défense et secteur public, cabinets juridiques, recherche pharmaceutique ou semi-conducteurs. Pour ces acteurs, un agent capable de traiter des dizaines de millions de tokens sans passer par une API externe ouvre des usages jusque-là impossibles : revue complète d'un dépôt de code, analyse de contrats sur plusieurs années, ou investigation forensique sur des archives de logs entières, sans recourir au résumé du contexte. Sur les benchmarks agentiques, Isaac affiche une quasi-parité avec les meilleurs modèles cloud, avec 70,94 contre 70,61 pour Luna sur BFCL v4, et enregistre les taux de réussite d'attaques les plus bas de son panel en test de sécurité, tout en restant en retrait sur Terminal-Bench 2.1 avec 56 tâches résolues sur 86 contre 60 pour Luna. Cette sortie illustre une tension propre aux agents IA à long horizon : plus une tâche s'étire, plus elle accumule d'observations dans la fenêtre de contexte, une contrainte que seuls quelques modèles propriétaires hébergés dans le cloud géraient jusqu'ici à grande échelle, excluant de fait les secteurs régulés et les applications embarquées. En rendant un modèle à contexte massif exploitable sur une seule carte graphique et déployable localement, y compris sur des puces comme l'Intel Arc Pro B70, le Core Ultra Series 3 « Panther Lake » ou le Snapdragon X2 Elite de Qualcomm, Pokee AI cible les entreprises et fabricants d'appareils disposant déjà de leur propre infrastructure plutôt que les développeurs sans matériel sur site. Le rapport reconnaît lui-même une limite : les résultats de sécurité d'Isaac ont été obtenus avec le harnais logiciel propre à Pokee, contrairement aux modèles concurrents testés dans l'environnement standard.

UELes entreprises européennes du secteur régule (santé, finance, défense) soumises au RGPD pourraient s'intéresser a ce type de modèle déployable on-premise pour respecter la localisation des données, mais aucun acteur français ou européen n'est implique dans cette annonce.

💬 Pokee-Isaac règle un vrai problème, pas un problème de démo : 10 millions de tokens de contexte tenus jusqu'au bout, là où GPT-5.6 et Gemini 3.5 flanchent dès le million. Et le coup malin, c'est le déploiement on-prem sur une seule RTX 4090, ça parle direct à la santé, la finance ou la défense qui ne peuvent pas envoyer leurs données chez OpenAI. Reste que les benchmarks de sécurité tournent sur leur propre harnais maison, pas l'environnement standard, donc avant de crier victoire j'attendrais des tests indépendants.

LLMsActu
1 source
Mixture-of-Kittens (MoK) : Cursor publie en open source un mégakernel d'entraînement MoE déterministe pour racks GB300 NVL72
Illustration générée par IA
17MarkTechPost 

Mixture-of-Kittens (MoK) : Cursor publie en open source un mégakernel d'entraînement MoE déterministe pour racks GB300 NVL72

Cursor Research a mis en open source Mixture-of-Kittens (MoK), le megakernel d'entraînement pour architectures mixture-of-experts (MoE) qui alimente ses modèles Composer. L'outil fusionne toutes les étapes de communication et de calcul MoE en un seul kernel déterministe. Selon l'équipe Cursor, il atteint jusqu'à 2,37 fois le débit du meilleur baseline public disponible, et il fait déjà tourner l'entraînement de Composer sur des dizaines de milliers de GPU. MoK est publié sous licence Apache-2.0 sur GitHub, mais son accès matériel reste très restrictif : il exige des GPU NVIDIA Blackwell SM100 ou SM103, donc des racks GB200 NVL72 ou GB300 NVL72, ainsi que Python 3.12 ou plus récent, PyTorch 2.10 ou plus récent et CUDA toolkit 13.0 ou plus récent, avec des tampons inter-GPU reposant sur la mémoire symétrique de PyTorch. Les benchmarks de couche ont été menés sur un seul rack NVL72 avec un degré de parallélisme d'experts de 64, chaque GPU traitant 2 048 tokens avant routage, face à quatre baselines (NCCL+PyTorch, DeepEP+PyTorch, DeepEP+TransformerEngine, HybridEP+Megatron) sur des architectures telles que Kimi K2.7 Code, GLM-5.2, Qwen3.5-397B-A17B et DeepSeek-V4-Pro. Cette barrière matérielle élevée signifie que seuls les laboratoires de pointe, les startups de modèles bien financées, les néoclouds GPU et les centres de calcul nationaux peuvent réellement déployer MoK ; les équipes travaillant sur un seul nœud ou huit GPU en sont exclues. Pour ceux qui possèdent la capacité NVL72, l'intérêt est concret : le préentraînement et le post-entraînement de modèles MoE de type DeepSeek-V3, mais aussi le renforcement par apprentissage on-policy et les ablations internes, domaines où le déterminisme du kernel devient un avantage direct pour la reproductibilité des résultats. Les secteurs concernés vont du développement de modèles d'IA à l'infrastructure cloud GPU, en passant par les outils de génération de code et la recherche quantitative. Ce projet prolonge des travaux antérieurs de Cursor sur la partie calcul, avec ses propres kernels d'entraînement MXFP8 et NVFP4 et un chemin d'inférence MoE dit "warp décodé", qui traitaient la communication inter-GPU séparément. En production, cette communication est devenue le vrai goulot d'étranglement, la couche MoE pouvant consommer plus de la moitié du temps total d'entraînement. Le passage aux racks GB300 NVL72, qui regroupent 72 GPU dans un même domaine NVLink mais s'appuient sur des CPU Grace relativement lents, a imposé de minimiser drastiquement les synchronisations CPU-GPU. MoK répond à ce défi par trois choix de conception : une direction de communication adaptée à chaque opération (dispatch en pull, combine en push, la signalisation en pull mesurant 18 microsecondes contre 103 pour le push), une granularité de chevauchement calibrée entre les approches Comet et DeepEP, et un tampon circulaire de tokens de quelques centaines de mégaoctets qui élimine le CPU de la boucle critique.

💬 Le code est ouvert, l'accès reste fermé. Faut un rack GB300 NVL72 pour faire tourner ce truc, donc en pratique ça exclut la quasi-totalité des équipes qui bossent sur un ou huit GPU, autant dire tout le monde sauf une dizaine de labos. 2,37 fois le débit du meilleur concurrent public, c'est du concret, mais ça confirme un peu plus que la course au MoE se joue maintenant au niveau du matériel, pas de l'algo.

InfrastructureActu
1 source
Moonshot cherche davantage de puces Nvidia Blackwell pour son prochain modèle
Illustration générée par IA
18The Information AI 

Moonshot cherche davantage de puces Nvidia Blackwell pour son prochain modèle

La startup chinoise Moonshot AI, basée à Pékin, discute déjà des plans pour son prochain modèle d'intelligence artificielle, Kimi K4, qui serait nettement plus grand que son prédécesseur, selon deux personnes proches du dossier. Cette annonce intervient dans la foulée du succès retentissant de Kimi K3, lancé récemment et devenu le plus grand modèle open source au monde avec 2,8 billions de paramètres. Selon trois sources informées, Moonshot a entraîné K3 en utilisant des puces Nvidia, y compris les modèles Blackwell les plus avancés, confirmant ainsi en partie une déclaration publiée sur X par Michael Kratsios, haut responsable de la Maison-Blanche. Or ces puces sont censées être inaccessibles aux entreprises chinoises en vertu des restrictions à l'exportation imposées par les autorités américaines. Pour développer K4, Moonshot chercherait désormais à obtenir davantage de puces Blackwell, selon deux des personnes citées. Cette affaire illustre les failles persistantes du régime de contrôle des exportations américain censé freiner l'accès de la Chine aux technologies d'IA les plus avancées. Si une startup chinoise parvient à entraîner le plus grand modèle open source au monde sur du matériel Nvidia de pointe malgré l'embargo, cela remet en question l'efficacité réelle des sanctions et alimente les inquiétudes à Washington sur les contournements possibles des restrictions. Pour l'industrie, cela confirme aussi que la Chine reste capable de rivaliser au plus haut niveau en matière de modèles de langage, avec des conséquences directes sur la compétition technologique sino-américaine. Le contrôle des exportations de semi-conducteurs vers la Chine est devenu un axe central de la politique américaine sous plusieurs administrations, Nvidia étant régulièrement sommée d'adapter ses gammes de puces pour respecter les seuils autorisés. Le cas Moonshot, avec sa demande de nouvelles puces Blackwell pour K4, place à nouveau la question du contournement des règles au centre du débat, alors que les autorités américaines et Nvidia devront potentiellement clarifier comment de tels approvisionnements ont pu avoir lieu.

💬 Nvidia Blackwell dans un modèle chinois qui bat les records open source, ça dit tout de l'efficacité réelle des restrictions à l'export américaines. Sur le papier, l'embargo devait ralentir la Chine sur l'IA de pointe, dans les faits Moonshot construit le plus gros modèle open source du monde avec le matériel censé lui être interdit. Washington va devoir soit fermer les fuites, soit admettre que le contrôle des exportations ne contrôle plus grand-chose.

RégulationReglementation
1 source
Open Dreamer : une reproduction JAX/Flax du modèle Dreamer 4, avec la recette d'entraînement complète publiée
Illustration générée par IA
19MarkTechPost 

Open Dreamer : une reproduction JAX/Flax du modèle Dreamer 4, avec la recette d'entraînement complète publiée

Un petit groupe de chercheurs en IA, l'équipe Reactor, a publié Open Dreamer, une implémentation ouverte du pipeline de modèle du monde Dreamer 4, codée en JAX et Flax NNX. Deux dépôts ont été mis en ligne: next-state/open-dreamer contient le pipeline d'entraînement complet, avec un tokenizer vidéo causal, un modèle de dynamique latente conditionné par l'action, la génération de rollouts et le calcul du score FVD, tandis que reactor-team/open-dreamer propose un harnais de rollout local minimal qui génère des images à partir d'un fichier MP4 et d'un fichier d'actions associé. Un troisième élément, une démo dans le navigateur hébergée sur l'infrastructure Reactor, diffuse en temps réel un monde Minecraft généré et propose un bouton pour basculer entre le jeu réel et le rêve, image par image. L'équipe a délibérément limité ses méthodes à celles décrites dans l'article de recherche original sur Dreamer 4, en commençant par CoinRun, un jeu de plateforme 2D procédural entraînable sur un seul GPU, avant d'étendre le pipeline à des séquences de jeu Minecraft au format VPT. L'architecture repose sur un même squelette transformeur causal par blocs, utilisé à la fois pour le tokenizer et le modèle de dynamique, alternant des couches spatiales qui propagent l'information au sein d'une image et des couches temporelles causales qui relient les images entre elles. Le tokenizer, un auto-encodeur masqué plutôt qu'un VAE classique, atteint une compression d'environ 100 fois sans perte de qualité liée aux pertes KL ou adversariales, le masquage rendant selon l'équipe l'espace latent plus facile à diffuser. Le modèle de dynamique prédit l'image suivante via diffusion forcing, flow matching et modèles shortcut, tout en anticipant la prochaine action; les jetons du modèle du monde n'ont toutefois pas accès au jeton de l'agent, si bien que la politique n'influence le futur qu'à travers l'action suivante. Concrètement, le modèle de dynamique Minecraft compte 1,6 milliard de paramètres répartis sur 30 couches, avec 30 têtes d'attention et une attention par requêtes groupées à 3 têtes clé-valeur, entraîné pendant 200 000 étapes avec l'optimiseur Muon et un taux d'apprentissage de pointe de 3e-4. Cette publication détaillée offre à la communauté open source une reproduction fidèle et documentée d'une architecture jusque-là propriétaire, avec des choix d'ingénierie précis sur le parallélisme et l'utilisation du matériel. L'équipe rapporte une utilisation des FLOPs du modèle de 57 à 58 %, proche du seuil de 60 % jugé sain pour l'entraînement de transformeurs, et explique avoir dû composer avec un mur mémoire sur les activations plutôt que sur l'état du modèle, qui tient en environ 24 Gio sur un GPU B200. Ce travail s'inscrit dans une course plus large à la reproduction ouverte des modèles du monde utilisés pour la génération d'environnements interactifs et l'entraînement d'agents.

💬 Le vrai signal ici, c'est que Dreamer 4 sort du placard propriétaire avec la recette d'entraînement complète, pas juste des poids. Ça compte, parce que jusqu'ici les modèles du monde restaient des boîtes noires qu'on citait sans pouvoir vérifier. 57-58% d'utilisation FLOPs sur B200, c'est du sérieux, pas du proof-of-concept bricolé. Reste à voir si ça tient quand quelqu'un d'autre que l'équipe Reactor essaie de le reproduire sur son propre matériel.

RechercheActu
1 source
Le benchmark de Datalab Marker v2 face à MinerU, Docling et Liteparse
Illustration générée par IA
20MarkTechPost 

Le benchmark de Datalab Marker v2 face à MinerU, Docling et Liteparse

Datalab a publié Marker 2, une réécriture complète de son pipeline open source de conversion de documents. L'outil transforme des fichiers PDF, image, PPTX, DOCX, XLSX, HTML et EPUB en Markdown, JSON, HTML ou en chunks structurés. Cette nouvelle version s'appuie sur trois composants développés ces derniers mois par l'équipe Datalab: Surya OCR 2, un modèle léger de détection de mise en page de 20 millions de paramètres, et une version reconstruite de pdftext, trois fois plus rapide que la précédente. Le résultat principal provient du benchmark olmOCR-bench, développé par Allen AI (Ai2): le mode "balanced" de Marker 2 obtient un score global de 76,0% et de 83,5% sur les PDF nativement numériques, avec un débit soutenu de 2,9 pages par seconde sur un seul GPU B200. À titre de comparaison, MinerU, avec son moteur "pipeline", plafonne à 72,7% pour 0,54 page par seconde, tandis que Docling atteint 50,3% à 2,1 pages par seconde sur le même test. Marker 2 propose désormais trois modes de conversion distincts. Le mode balanced confie la mise en page au VLM Surya et relance l'OCR sur la page entière dès que le texte intégré est de mauvaise qualité: c'est le mode le plus précis, calibré pour tourner sur GPU. Le mode fast utilise un détecteur de mise en page léger (rf-detr/onnx) combiné à pdftext, avec un recours minimal et ciblé au VLM, pour 66,6% de score mais un coût bien plus faible. Le mode --disableocr se contente d'extraire le texte natif sans aucun appel au VLM et tourne entièrement sur CPU, avec 43,6% de score mais un débit de 23,7 pages par seconde. Le choix du mode est désormais automatique selon le matériel disponible. Sur le plan architectural, de nombreux processus CPU légers partagent désormais un seul serveur d'inférence Surya, ce qui permet au débit de suivre la capacité du serveur plutôt que la mémoire vidéo de chaque processus: Datalab indique que le mode balanced atteint ainsi environ 2,9 pages par seconde en charge concurrente, contre 0,3 page par seconde en traitement isolé sur le même matériel. Cette architecture rend Marker 2 pertinent aussi bien pour les équipes disposant de GPU que pour celles limitées au CPU. Le benchmark olmOCR-bench repose sur 1403 PDF et environ 8400 tests de réussite ou d'échec, répartis sur huit catégories couvrant le rendu des formules mathématiques, la structure des tableaux, l'ordre de lecture, les en-têtes et pieds de page, ou encore les anciens documents scannés. Toutes les mesures proviennent des propres tests de Datalab, reproductibles via le dépôt Marker qui inclut aussi des scripts pour MinerU, Docling et LiteParse. Face à MinerU, son concurrent le plus proche architecturalement, Marker 2 balanced devance de peu sur les PDF nativement numériques (83,5% contre 83,3%) mais creuse un écart net en débit, 5,4 fois supérieur pour un score plus élevé. Cette mise à jour s'accompagne de changements techniques à anticiper avant migration: Python 3.10 minimum, passage de Poetry à uv avec hatchling comme backend de build, et suppression du convertisseur d'extraction structurée, remplacé par l'API hébergée ou l'option --usellm.

💬 Marker 2 pulvérise MinerU sur le débit (5,4x plus rapide pour un score équivalent), et ça c'est le vrai signal : la course à l'OCR se joue plus sur les points de benchmark que sur le coût réel de traitement à grande échelle. Sur le papier, l'archi partagée (un seul serveur Surya pour plein de process CPU) c'est malin, ça évite de gâcher de la VRAM. Reste à voir si ça tient aussi bien en prod sur des PDF scannés pourris, parce que les benchmarks aiment bien les cas propres.

OutilsOutil
1 source
Le Marker 2 de Datalab face à MinerU, Docling et LiteParse : 76,0 sur olmOCR-bench avec un débit 5 fois supérieur à MinerU
Illustration générée par IA
21MarkTechPost 

Le Marker 2 de Datalab face à MinerU, Docling et LiteParse : 76,0 sur olmOCR-bench avec un débit 5 fois supérieur à MinerU

Datalab a publié Marker 2, une réécriture complète de son pipeline open source de conversion de documents, le 21 juillet 2026. Marker convertit les fichiers PDF, images, PPTX, DOCX, XLSX, HTML et EPUB en markdown, JSON, HTML ou en chunks. Cette nouvelle version s'appuie sur trois composants développés ces derniers mois par l'équipe de Datalab : Surya OCR 2, un modèle de détection de mise en page rapide de 20 millions de paramètres, et une version reconstruite de pdftext trois fois plus rapide que la précédente. Sur le benchmark olmOCR-bench d'Allen AI, référence tierce composée de 1403 PDF et d'environ 8400 tests, le mode équilibré de Marker 2 obtient un score global de 76,0% et 83,5% sur les documents PDF nativement numériques, tout en traitant 2,9 pages par seconde sur un seul GPU B200. À titre de comparaison, MinerU plafonne à 72,7% avec seulement 0,54 page par seconde, et Docling atteint 50,3% à 2,1 pages par seconde sur le même test. Cette avancée change concrètement la donne pour les équipes qui doivent extraire et structurer de grands volumes de documents, un besoin central dans l'entraînement de modèles de langage, l'indexation documentaire ou l'automatisation de flux d'entreprise. Un gain de vitesse supérieur à 5 fois par rapport à MinerU, à qualité égale voire supérieure sur les documents natifs, réduit directement les coûts d'infrastructure et les délais de traitement à grande échelle. Marker 2 propose désormais trois modes selon les besoins : le mode équilibré qui mobilise le modèle Surya pour les documents complexes, un mode rapide combinant un détecteur léger et un usage minimal du modèle de vision pour un coût réduit, et un mode sans OCR fonctionnant uniquement sur CPU, à 43,6% de score mais 23,7 pages par seconde. La sélection automatique du mode selon le matériel disponible facilite l'adoption par des équipes aux ressources GPU limitées. Cette évolution s'inscrit dans une course plus large entre plusieurs outils open source de conversion documentaire, tous confrontés au même défi : concilier fidélité d'extraction et rapidité de traitement à l'échelle industrielle. L'architecture de Marker 2 repose sur un changement structurel clé, plusieurs processus légers tournant sur CPU partagent un seul serveur d'inférence Surya, ce qui permet au débit de suivre la capacité du serveur plutôt que d'être limité par la mémoire GPU de chaque processus. Datalab revendique une amélioration notable par rapport au traitement en flux unique. La mise à jour s'accompagne toutefois de changements majeurs à anticiper avant toute migration : Python 3.10 minimum désormais requis, passage de Poetry à uv pour le packaging, et suppression du convertisseur d'extraction structurée, les utilisateurs étant désormais orientés vers l'API hébergée ou un usage combiné avec un LLM.

💬 Sur le papier, c'est le genre de bond qu'on n'a pas vu souvent : 5 fois plus rapide que MinerU sans sacrifier la qualité sur les PDF natifs, c'est rare. Ce qui change vraiment la donne, c'est le mode CPU sans GPU, ça ouvre l'extraction documentaire à masse aux équipes qui n'ont pas de cluster à disposition. Reste que la casse côté migration (Python 3.10, uv, convertisseur structuré supprimé) va faire râler pas mal de monde qui tournait déjà en prod avec l'ancienne version.

OutilsOutil
1 source
Unsloth, Axolotl, TRL, LLaMA-Factory : comparaison des frameworks de fine-tuning sur vitesse, VRAM et multi-GPU
Illustration générée par IA
22MarkTechPost 

Unsloth, Axolotl, TRL, LLaMA-Factory : comparaison des frameworks de fine-tuning sur vitesse, VRAM et multi-GPU

Quatre projets open source dominent aujourd'hui le fine-tuning des grands modèles de langage : Unsloth, Axolotl, TRL et LLaMA-Factory. Tous s'appuient sur la même base PyTorch et Hugging Face, mais chacun concentre ses efforts d'ingénierie différemment. TRL sert de couche de référence : il fournit les briques SFTTrainer, DPOTrainer, GRPOTrainer, KTOTrainer, RewardTrainer et RLOOTrainer, sur lesquelles s'appuient Axolotl et LLaMA-Factory, avec une version stable actuelle en v1.8.0. Unsloth réécrit une partie du code de modélisation avec des kernels Triton faits main et une rétropropagation dérivée manuellement plutôt que générée par autograd, sans dégradation de précision par rapport au QLoRA standard selon Hugging Face. Sur un GPU NVIDIA B200, Unsloth annonce des gains spectaculaires pour le modèle gpt-oss-20b-BF16 : 712,33 millisecondes par étape à 8 000 tokens de contexte contre 5 226,86 millisecondes pour Transformers v5, soit un facteur 7,3. Ce gain tombe à 4,82 fois à 4 000 tokens et à seulement 1,37 fois à 1 000 tokens. Sur Qwen3-30B-A3B, la tendance s'inverse : l'accélération chute de 1,7 fois à 1,1 fois entre 1 000 et 16 000 tokens, tandis que les économies de mémoire grimpent de 2 à 15 pour cent. Axolotl a intégré ses propres kernels Triton en février 2025, en citant explicitement Unsloth comme source d'inspiration, avec un support SonicMoE LoRA annoncé jusqu'à 1,45 fois plus rapide et 30 pour cent de mémoire économisée sur Qwen3.5-35B-A3B en LoRA 8 bits sur un seul H100 SXM. Ces écarts de performance ont un impact direct sur le coût et la faisabilité des projets de fine-tuning, en particulier pour les équipes disposant de ressources GPU limitées. Un facteur multiplicatif de 7 sur le temps d'entraînement change concrètement ce qu'une petite équipe peut se permettre d'entraîner localement plutôt que de sous-traiter à un cloud coûteux. À l'inverse, le fait que certains gains s'inversent selon la longueur de séquence ou le modèle montre qu'aucun framework n'est universellement supérieur : le choix dépend du matériel disponible, de la taille du modèle et de la longueur de contexte visée, ce qui complique la décision pour les praticiens. Ce paysage s'est construit par emprunts croisés plutôt que par concurrence fermée. LLaMA-Factory, présenté comme démonstration système à la conférence ACL 2024 et doté d'une interface Gradio baptisée LlamaBoard, ne développe pas ses propres kernels mais expose ceux des autres via de simples options de configuration : activer use_unsloth donnerait 170 pour cent de vitesse relative selon son changelog, et le support natif FlashAttention-2 ou Liger Kernel s'active de la même façon. TRL, de son côté, propose une intégration officielle avec Unsloth, ce qui montre que ces outils ne sont pas mutuellement exclusifs mais forment un écosystème où les innovations se propagent rapidement d'un projet à l'autre, au bénéfice final des équipes qui entraînent des modèles avec des budgets de calcul contraints.

OutilsOutil
1 source
L'article valide des benchmarks de service LLM distribué avec NVIDIA srt-slurm, des recettes SLURM, des balayages de paramètres et une analyse de Pareto
Illustration générée par IA
23MarkTechPost 

L'article valide des benchmarks de service LLM distribué avec NVIDIA srt-slurm, des recettes SLURM, des balayages de paramètres et une analyse de Pareto

Voici la traduction/résumé en français, sans titres ni tirets cadratins. NVIDIA a publié srt-slurm, un framework open source qui permet de transformer des configurations YAML déclaratives en workflows SLURM reproductibles pour le déploiement de grands modèles de langage distribués. L'outil en ligne de commande, srtctl, orchestre l'ensemble du processus : génération de scripts sbatch, gestion des recettes de benchmark prêtes à l'emploi, et interaction avec une API Python typée. Un tutoriel récent montre comment installer le projet directement dans Google Colab, en clonant le dépôt GitHub et en l'exécutant en mode éditable, avant d'explorer son architecture interne organisée en modules distincts : cli pour les commandes d'application et de simulation, core pour les schémas de configuration et la génération SLURM, backends pour les adaptateurs de moteurs d'inférence comme SGLang, TensorRT-LLM et vLLM, et analysis pour un tableau de bord Streamlit dédié à l'analyse des résultats. Le tutoriel détaille ensuite la création d'un fichier de configuration de cluster définissant les comptes, partitions, limites de temps, conteneurs et chemins de modèles, avant de modéliser un déploiement dissocié de type prefill-and-decode pour DeepSeek-R1, l'un des modèles de raisonnement open source les plus utilisés actuellement. Cette démarche répond à un besoin concret des équipes qui déploient des modèles de langage à grande échelle sur des clusters GPU : pouvoir valider et affiner leurs configurations de benchmark avant de les soumettre à une infrastructure de production coûteuse à mobiliser. En permettant de générer des balayages de paramètres (parameter sweeps), de valider les configurations étendues et d'analyser les résultats simulés via une analyse de frontière de Pareto opposant débit et latence, srt-slurm réduit le risque d'erreurs coûteuses lors du passage à l'échelle réelle. Pour les équipes MLOps et les fournisseurs de cloud GPU, cela représente un gain de temps significatif dans l'optimisation des déploiements d'inférence distribuée, un enjeu central alors que les coûts de calcul liés aux modèles de raisonnement comme DeepSeek-R1 continuent d'augmenter. Ce projet s'inscrit dans la tendance plus large de NVIDIA à outiller l'écosystème de l'inférence distribuée, aux côtés de son framework Dynamo pour le routage de requêtes entre nœuds. Le choix de Google Colab comme environnement de démonstration est révélateur : bien que Colab ne dispose pas d'un véritable environnement SLURM, il sert d'espace de développement pratique pour comprendre et préparer des recettes de benchmark de qualité production. Cette approche pourrait faciliter l'adoption de srt-slurm par des équipes ne disposant pas encore d'un accès direct à un cluster SLURM, en abaissant la barrière à l'entrée avant un déploiement réel sur des GPU comme les gammes H100, B200 ou GB200 de NVIDIA.

OutilsOutil
1 source
NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde
Illustration générée par IA
24NVIDIA AI Blog 

NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde

Voici l'article traduit et résumé. NVIDIA a annoncé la montée en production de sa plateforme Vera Rubin NVL72, déployée chez des partenaires majeurs comme CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure. La chaîne d'approvisionnement s'appuie sur plus de 350 sites industriels répartis dans 30 pays, ce que NVIDIA présente comme la chaîne logistique rack-scale la plus vaste et la plus mature jamais assemblée. Selon un premier benchmark de CoreWeave sur le modèle DeepSeek-R1, la plateforme atteint un débit dix fois supérieur par mégawatt comparé à la génération précédente Grace Blackwell NVL72. Le système repose sur une co-conception poussée de sept puces et cinq plateaux de rack, dont le nouveau CPU Vera doté d'un cœur Olympus offrant deux fois les performances mono-thread, trois fois la bande passante inter-cœurs et une latence mémoire réduite de 40% par rapport aux puces chiplet concurrentes. Côté réseau, l'interconnexion NVLink de sixième génération double le débit sur les charges complexes tout en réduisant la latence par trois, et le réseau Spectrum-X Ethernet, combiné aux commutateurs Spectrum-6 et aux SuperNIC ConnectX-9, apporte 60% de bande passante RDMA supplémentaire face aux solutions Ethernet standards. Cette avancée compte avant tout parce qu'elle s'attaque directement au principal goulot d'étranglement des centres de données d'intelligence artificielle actuels: la consommation électrique. En multipliant par dix le débit par mégawatt, NVIDIA permet aux opérateurs de data centers de traiter davantage de requêtes sans construire de nouvelles centrales ou étendre leurs capacités énergétiques, un enjeu critique alors que la demande en calcul explose. L'architecture sans câbles, ventilateurs ni tuyaux dans les plateaux de calcul réduit le temps d'assemblage de plusieurs heures à une seule minute, tandis que le refroidissement liquide fonctionnant à 45°C en entrée permet un fonctionnement sans réfrigérateur, économisant des millions de litres d'eau par mégawatt chaque année. Des géants comme SpaceX et Tesla figurent parmi les premiers à adopter les commutateurs Spectrum-6, signe que cette technologie dépasse le seul cadre du cloud pour toucher l'IA embarquée et les infrastructures propriétaires. Le contexte européen illustre l'ampleur stratégique de ce déploiement: mardi 21 juillet, NVIDIA a dévoilé un partenariat élargi entre Microsoft et Mistral AI, doté d'un accord pluriannuel évalué en milliards de dollars pour développer les infrastructures IA en Europe. Mistral ajoutera des milliers de GPU Vera Rubin à sa capacité de calcul, créant une plateforme partagée pour l'entraînement et le déploiement de modèles ouverts, tout en donnant aux gouvernements et industries régulées un contrôle accru sur leurs environnements. Cette initiative s'inscrit dans une compétition mondiale où les fabricants de puces cherchent à équiper les hyperscalers tout en répondant aux exigences de souveraineté numérique, un sujet particulièrement sensible en Europe. Avec NVLink Fusion ouvrant également son écosystème aux puces tierces, NVIDIA cherche à consolider sa position d'infrastructure de référence face à une concurrence croissante dans la course aux capacités de calcul IA.

UEMistral AI, entreprise française, va intégrer des milliers de GPU Vera Rubin grâce a un accord pluriannuel avec Microsoft, renforçant les capacités de calcul IA en Europe et la souveraineté numérique des secteurs régulés.

InfrastructureActu
1 source
Le consortium Soofi publie Soofi S 30B-A3B, un modèle hybride Mamba-Transformer MoE ouvert pour l'allemand et l'anglais
Illustration générée par IA
25MarkTechPost 

Le consortium Soofi publie Soofi S 30B-A3B, un modèle hybride Mamba-Transformer MoE ouvert pour l'allemand et l'anglais

Souveraineté numérique allemande et europ­éenne en IA : un consortium mené par la fédération professionnelle KI Bundesverband, avec le soutien du ministère fédéral allemand de l'Économie et de l'Énergie, vient de publier le rapport de pré-entraînement de Soofi S 30B-A3B, un nouveau modèle de fondation ouvert bilingue allemand-anglais. Développé avec Fraunhofer IAIS, le DFKI, l'université technique de Darmstadt, ellamind et Merantix Momentum, l'entraînement s'est déroulé intégralement sur l'Industrial AI Cloud de Deutsche Telekom à Munich, entre le 24 mars et le 13 mai 2026, mobilisant jusqu'à 512 GPU NVIDIA B200 pour un total d'environ 253 000 heures de calcul. Les poids en préversion sont disponibles sur Hugging Face. Techniquement, il s'agit d'un modèle hybride Mamba-Transformer à mélange d'experts (MoE), totalisant 31,6 milliards de paramètres dont seulement 3,2 milliards activés par token. Son architecture reprend sans modification le design de référence Nemotron 3 Nano de Nvidia : 52 couches réparties entre 23 couches Mamba-2, 23 couches MoE et seulement 6 couches d'attention GQA, ces dernières étant les seules à conserver un cache clé-valeur. Chaque couche MoE dispose de 128 experts routés, dont 6 sont activés par token, complétés par 2 experts partagés. Le modèle a ingéré environ 26 680 milliards de tokens en trois phases, avec une part de l'allemand passant de 7,2% à 15,32% des tokens entre les deux premières phases, contre à peine 5% pour toutes les langues non anglaises réunies dans la référence Nemotron, notamment grâce à Genios, qui fournit 193 millions d'articles issus de 916 archives de presse et de titres spécialisés sous licence commerciale. Cette approche paie sur les benchmarks : testé face à 16 autres modèles de base ouverts avec le même protocole d'évaluation, Soofi S affiche les meilleurs scores agrégés en anglais (70,1%) et en allemand (79,1%) parmi les modèles entièrement ouverts, devançant Olmo 3 32B, Apertus 70B, EuroLLM 22B et Alia 40B, avec des écarts particulièrement marqués en programmation, en mathématiques et en compréhension de texte allemand. Comparé à une version Nemotron 3 Nano entraînée sur les données de référence habituelles, le gain net attribuable uniquement à la recette de données allemande est de 1,8 point en anglais, 4,2 points en allemand et 6,7 points sur les tâches inédites en anglais, ce qui démontre que la performance vient bien du corpus et non de l'architecture. Pour l'industrie européenne de l'IA, ce résultat est significatif : il prouve qu'un modèle entraîné avec des ressources publiques et une gouvernance souveraine peut rivaliser avec des modèles bien plus gros comme Apertus 70B ou Alia 40B, tout en restant totalement ouvert et reproductible. Soofi S s'inscrit dans une dynamique plus large de modèles de fondation souverains, portée en réaction à la dépendance de l'Europe envers les modèles américains et chinois. Face aux meilleurs modèles ouverts toutes tailles confondues, il reste toutefois derrière Qwen3.5 35B-A3B, et se situe au coude à coude avec Gemma 3 27B et Ministral 3 14B en anglais, tout en les dépassant en allemand. S'agissant d'un modèle de base sans alignement ni réglage d'instructions, son usage direct reste réservé aux équipes techniques : les poids sont distribués en accès restreint avec un code de modélisation personnalisé, pensé pour être déployé sur des infrastructures comme vLLM. Les prochaines étapes attendues incluent probablement des versions instruites et alignées, ainsi qu'une adoption par des acteurs industriels allemands soucieux de disposer d'une alternative locale aux grands modèles propriétaires.

UECe modèle souverain germano-européen, développé avec le soutien d'institutions publiques allemandes et de Deutsche Telekom, illustre une alternative crédible à la dépendance de l'UE envers les modèles américains et chinois, sans concerner directement une entreprise ou institution française.

💬 Ce qui est intéressant ici, c'est que le gain vient à 100% de la recette de données allemande, pas de l'architecture (ils ont juste repris Nemotron 3 Nano tel quel). Autrement dit : la souveraineté en IA, ça se joue sur le corpus et les accords de licence presse, pas sur un exploit d'ingénierie exotique. Reste que c'est un modèle de base sans instruction, en accès restreint, donc pour l'instant c'est une preuve de concept pour labos et industriels allemands, pas un outil qu'on branche demain.

LLMsActu
1 source
« Nemotron Labs 3 Puzzle 75B A9B : un LLM MoE hybride compressé qui multiplie par 2,03 le débit serveur »
Illustration générée par IA
26MarkTechPost 

« Nemotron Labs 3 Puzzle 75B A9B : un LLM MoE hybride compressé qui multiplie par 2,03 le débit serveur »

NVIDIA a dévoilé Nemotron-Labs-3-Puzzle-75B-A9B, une version compressée de son modèle hybride Nemotron-3-Super, combinant architecture Mamba et Transformer avec un système de mélange d'experts (MoE). Le modèle parent comptait 120,7 milliards de paramètres au total, dont 12,8 milliards actifs par requête. La version compressée descend à 75,3 milliards de paramètres au total et 9,3 milliards actifs, soit une réduction à 62,4% et 73,1% respectivement. L'équipe a fixé deux objectifs avant de lancer la recherche d'architecture : doubler le débit serveur à 100 tokens par seconde et par utilisateur, et permettre huit requêtes simultanées d'un million de tokens sur un seul GPU H100. Trois versions du modèle sont disponibles sur Hugging Face, en BF16, FP8 et NVFP4. La structure en 88 blocs du modèle d'origine, répartis entre 40 blocs Mamba, 40 blocs MoE et 8 blocs d'attention, a été conservée telle quelle ; seule la capacité interne de chaque bloc a été réduite, notamment la taille de l'état Mamba, ramenée de 128 à 96, et le nombre d'experts activés par token, passé de 22 à une moyenne de 4 à 18. Les gains de performance sont substantiels. Sur un nœud à huit GPU B200, le débit total grimpe de 1,60 à 2,14 fois par rapport à Nemotron-3-Super, à format NVFP4 et débit par utilisateur équivalents, avec les meilleurs résultats dans les scénarios à forte génération de texte (8K tokens en entrée, 64K en sortie). Sur un seul GPU H100 traitant des contextes d'un million de tokens, la contrainte bascule du calcul vers la mémoire : les poids NVFP4 du modèle Super occupent environ 70 Go sur les 80 Go de mémoire HBM disponibles, ne laissant de la place que pour une seule requête simultanée. La version Puzzle, avec des poids réduits à 44,5 Go, permet de traiter huit requêtes en parallèle, soit un débit de décodage agrégé environ quatre fois supérieur. Le préremplissage d'un prompt de 990 000 tokens est également environ 1,2 fois plus rapide. La méthode de recherche itérative employée, baptisée Puzzletron, surpasse une approche en une seule étape de 0,57 point en moyenne sur les benchmarks, pour un même niveau de compression. Le coût de cette compression n'est cependant pas nul : les scores reculent de 4,2 points sur Arena-Hard-V2 et de 2,6 points sur SWE-Bench, tandis que les benchmarks de contexte long comme RULER et AA-LCR restent quasiment stables. Cette avancée répond à un problème économique concret pour les fournisseurs d'infrastructure IA : les modèles hybrides massifs comme Nemotron-3-Super, bien que précis, coûtent cher à déployer en production, leurs paramètres actifs et leur cache mémoire limitant le nombre d'utilisateurs qu'un serveur peut servir à un débit donné. En réduisant la taille du modèle sans repenser sa structure fondamentale, NVIDIA cherche à rendre l'inférence à grande échelle plus abordable, notamment pour les cas d'usage à contexte très long comme l'analyse de documents volumineux ou les agents conversationnels de longue durée. Puzzletron s'inscrit dans un mouvement plus large de recherche d'architecture neuronale appliquée à la compression de modèles, où un programme d'optimisation mixte sélectionne, bloc par bloc, la meilleure configuration possible sous une contrainte de taille donnée. La méthode illustre une tendance de fond dans l'industrie : plutôt que de simplement réduire uniformément la taille des modèles, les équipes de recherche cherchent désormais à identifier précisément quelles parties d'un réseau neuronal peuvent être compressées sans sacrifier les capacités jugées essentielles, ouvrant la voie à des déploiements plus efficaces à mesure que les contextes traités par les modèles de langage continuent de s'allonger.

LLMsActu
1 source
NVIDIA lance Nemotron-Labs-3-Puzzle-75B-A9B : un LLM MoE hybride compressé qui double le débit serveur à débit utilisateur égal
Illustration générée par IA
27MarkTechPost 

NVIDIA lance Nemotron-Labs-3-Puzzle-75B-A9B : un LLM MoE hybride compressé qui double le débit serveur à débit utilisateur égal

NVIDIA a publié Nemotron-Labs-3-Puzzle-75B-A9B, une version compressée de son modèle hybride Mamba-Transformer à mélange d'experts Nemotron-3-Super. Le modèle d'origine comptait 120,7 milliards de paramètres au total, dont 12,8 milliards actifs par requête. La version compressée tombe à 75,3 milliards de paramètres au total et 9,3 milliards actifs, soit une réduction respective à 62,4% et 73,1% de la taille initiale. L'architecture en 88 blocs (40 blocs Mamba, 40 blocs MoE, 8 blocs d'attention) a été préservée telle quelle ; seule la capacité interne de chaque bloc a été réduite, notamment la taille de l'état des couches Mamba (de 128 à 96) et le nombre d'experts routés activés par token (de 22 à une moyenne de 11). Le modèle est disponible sur Hugging Face en trois versions : BF16, FP8 et NVFP4. Les objectifs de conception avaient été fixés avant même la recherche d'architecture : doubler le débit serveur à 100 tokens par seconde et par utilisateur, et permettre huit requêtes simultanées de 1 million de tokens de contexte sur un seul GPU H100. Les gains mesurés dépassent l'objectif initial. Sur un nœud à huit GPU B200, le débit total grimpe de 1,60 à 2,14 fois celui du modèle Super, à format numérique et débit utilisateur équivalents, les meilleurs résultats se situant dans les scénarios à forte génération (jusqu'à 42 601 tokens par seconde contre 20 939 pour Super). Sur un H100 unique avec un contexte d'un million de tokens, le poids des paramètres NVFP4 passe de 70 Go à 44,5 Go, ce qui fait chuter la contrainte mémoire dominante et fait passer la concurrence de requêtes traitables simultanément de 1 à 8, avec un débit de décodage agrégé environ quadruplé. Cette efficacité a un coût en qualité : les scores chutent de 4,2 points sur Arena-Hard-V2 et de 2,6 points sur SWE-Bench, alors que les benchmarks de contexte long comme RULER restent quasiment stables. Pour les entreprises qui déploient de grands modèles hybrides à grande échelle, cela représente une réduction significative des coûts d'infrastructure par utilisateur servi. Cette compression repose sur Puzzletron, un framework de recherche d'architecture neuronale développé par NVIDIA qui explore différentes implémentations possibles pour chaque couche du modèle, leur attribue un score de qualité, puis sélectionne la combinaison optimale via un programme d'optimisation en nombres entiers mixtes sous contrainte de taille cible. L'équipe a par ailleurs démontré qu'une approche itérative de cette recherche surpasse une approche en une seule étape de 0,57 point en moyenne, pour un même niveau de compression. Les couches Mamba ont été élaguées de façon uniforme, faute de support actuel des frameworks d'inférence pour des tailles d'état variables selon les couches, tandis que les couches d'attention sont restées intactes, l'équipe jugeant Nemotron-3-Super déjà très efficace en matière de cache KV. Les détails complets figurent dans un article publié sur arXiv.

UELes entreprises européennes utilisant des GPU NVIDIA pourraient réduire indirectement leurs coûts d'infrastructure IA grâce à ce modèle compressé, mais aucune entreprise ou réglementation française/européenne n'est directement impliquée.

LLMsActu
1 source
Les modèles Anthropic tournent désormais sur NVIDIA GB300 Blackwell Ultra dans Azure
Illustration générée par IA
28NVIDIA AI Blog 

Les modèles Anthropic tournent désormais sur NVIDIA GB300 Blackwell Ultra dans Azure

Les modèles Claude d'Anthropic sont désormais disponibles en accès général sur Microsoft Azure via Microsoft Foundry, avec une infrastructure propulsée par les GPU NVIDIA GB300 Blackwell Ultra. Ces systèmes reposent sur des configurations NVL72 couplées au réseau InfiniBand Quantum-X800, ce qui représente une montée en puissance significative pour les entreprises qui souhaitent déployer des agents IA autonomes sur le cloud Azure. Ce lancement s'inscrit dans la continuité d'un partenariat tripartite annoncé en novembre 2025 entre Microsoft, NVIDIA et Anthropic, qui visait à élargir l'accès entreprise aux modèles Claude sur des infrastructures accélérées. Concrètement, cette disponibilité générale change la donne pour les organisations qui construisent des systèmes multi-agents complexes. Les GPU Blackwell Ultra offrent des performances d'inférence nettement supérieures, ce qui réduit le coût total de possession et rend économiquement viable le déploiement d'agents spécialisés opérant en parallèle sur différents domaines métiers. NVIDIA et Anthropic travaillent également à intégrer les outils NVIDIA directement dans la pile Anthropic, permettant d'enrichir les agents Claude de compétences sectorielles précises via les "NVIDIA Verified Agent Skills". Ces agents peuvent ainsi être déployés comme une couche opérationnelle centrale au sein d'une organisation. Sur le plan de la gouvernance, NVIDIA propose un cadre de référence baptisé Secure Agent Workspace Reference Design, qui permet de faire tourner des agents autonomes dans un environnement contrôlé où l'identité, les accès réseau, les credentials et les politiques d'exécution sont gérés au niveau de l'infrastructure. Cette approche répond à l'une des principales préoccupations des directions informatiques face aux agents IA : le contrôle et la traçabilité. La convergence entre les grands modèles de langage d'Anthropic, la puissance de calcul de NVIDIA et l'écosystème cloud de Microsoft dessine un modèle d'intégration qui pourrait devenir une référence pour les déploiements IA en entreprise au cours des prochains mois.

UELes entreprises européennes utilisant Microsoft Azure peuvent désormais déployer les modèles Claude sur des GPU Blackwell Ultra, ce qui améliore les performances d'inférence et réduit les coûts pour les déploiements d'agents IA en entreprise dans le cloud.

Optimiser l'entraînement des modèles sur Amazon SageMaker AI avec NVIDIA Blackwell
Illustration générée par IA
29AWS ML Blog 

Optimiser l'entraînement des modèles sur Amazon SageMaker AI avec NVIDIA Blackwell

Amazon Web Services a rendu disponibles sur Amazon SageMaker AI les instances P6-B200, équipées de huit GPU NVIDIA Blackwell B200, pour l'entraînement de modèles de machine learning à grande échelle. Ces GPU de nouvelle génération embarquent 180 Go de mémoire HBM par puce (268 Go sur le B300), contre des capacités bien inférieures sur les générations précédentes, et s'interconnectent via NVLink 5 qui atteint 1,8 To/s de bande passante bidirectionnelle entre GPU. La configuration cible des modèles Transformer allant de 1 à 64 milliards de paramètres, entraînés en parallélisme de données fragmentées (FSDP de PyTorch) sur un nœud unique à huit GPU. L'accès à ces instances peut être réservé via le programme Flexible Training Plan d'AWS pour bénéficier d'une capacité prévisible et d'une gestion automatisée des ressources. Cette architecture modifie concrètement ce qui est réalisable dans l'entraînement de grands modèles. Jusqu'ici, les ingénieurs se heurtaient à trois contraintes classiques : des tailles de batch limitées par la mémoire GPU, des séquences tronquées pour éviter les erreurs out-of-memory, et un fractionnement du modèle sur plusieurs nœuds qui génère une surcharge réseau importante. Avec 180 Go par GPU, certains modèles qui nécessitaient auparavant plusieurs nœuds peuvent désormais tenir sur un seul nœud à huit GPU, ce qui réduit la latence de communication, accélère les cycles d'itération et diminue les coûts d'infrastructure. Des séquences plus longues deviennent viables pour les tâches de dépendances à longue portée, et le nombre d'étapes de synchronisation des gradients diminue avec des batchs plus grands, améliorant le débit global. NVIDIA Blackwell représente la cinquième génération de Tensor Cores de la marque, et son architecture dual-chip marque une rupture par rapport aux générations Ampere et Hopper. L'explosion de la taille des modèles ces trois dernières années, de GPT-3 à 175 milliards de paramètres jusqu'aux modèles actuels dépassant le trillion, a poussé les fournisseurs cloud et les fabricants de puces à repenser conjointement leurs offres. AWS et NVIDIA ont renforcé leur partenariat autour de SageMaker pour proposer une intégration clé en main qui abstrait la gestion de l'infrastructure. Les prochaines étapes pratiques pour les équipes ML consistent à calibrer le format de précision (FP8, BF16 ou FP16 selon la taille du modèle), ajuster le checkpointing d'activations pour équilibrer mémoire et calcul, et décider si la priorité est le débit, la réduction des communications inter-GPU ou la longueur de contexte. L'enjeu pour AWS est de capter une part croissante des budgets d'entraînement de modèles fondationnels, un marché où Google Cloud et Microsoft Azure jouent également des capacités GPU Blackwell.

InfrastructureActu
1 source
Micron Technology atteint un chiffre d’affaires record et vise désormais 50 milliards de dollars
Illustration générée par IA
30Le Big Data 

Micron Technology atteint un chiffre d’affaires record et vise désormais 50 milliards de dollars

Micron Technology a publié le 24 juin 2026 des résultats trimestriels qui ont dépassé toutes les prévisions de Wall Street. Le fabricant américain de mémoires a enregistré 41,46 milliards de dollars de chiffre d'affaires au troisième trimestre de son exercice fiscal 2026, contre 9,3 milliards un an plus tôt, soit une progression de 346 % en glissement annuel. Le bénéfice par action s'est établi à 25,11 dollars, contre 20,39 dollars attendus. La marge brute a atteint 84,6 %, la marge opérationnelle 80,4 %, et le bénéfice net 28,2 milliards de dollars. Surtout, Micron a annoncé viser 50 milliards de dollars de chiffre d'affaires pour son quatrième trimestre fiscal, avec une marge brute proche de 86 %, là où les analystes anticipaient environ 43 milliards. L'action a bondi de plus de 15 % après la clôture des marchés. Ces résultats révèlent la rentabilité exceptionnelle des mémoires à haute bande passante (HBM), devenues indispensables aux accélérateurs d'intelligence artificielle équipant les grands centres de données. L'offre reste structurellement insuffisante face à une demande portée par les déploiements massifs d'infrastructure IA chez les hyperscalers, ce qui permet à Micron d'appliquer des prix bien supérieurs aux mémoires conventionnelles. La création de valeur ne vient donc pas d'une hausse des volumes, les marchés PC et smartphone restent atones, mais d'une montée en gamme accélérée des produits et de leur rareté persistante. Pour les investisseurs en semiconducteurs, Micron s'impose comme l'un des baromètres les plus fiables de la santé réelle de l'écosystème IA. Ces résultats interviennent dans un contexte où le marché s'interrogeait depuis plusieurs semaines sur la durabilité des dépenses en infrastructure IA. Certains analystes craignaient un plateau après deux années de croissance soutenue. La guidance de Micron dissipe temporairement ces inquiétudes. Le groupe rivalise directement avec les sud-coréens Samsung et SK Hynix sur le segment HBM, un marché en pleine consolidation où les délais de production limitent la capacité à répondre rapidement à la demande. Nvidia, principal client de ces puces mémoire, continue d'absorber la quasi-totalité de la production disponible pour ses GPU H100 et Blackwell. Les prochains trimestres dépendront de la vitesse à laquelle Micron peut accroître ses capacités de production HBM, et de la pérennité des budgets d'investissement des géants du cloud, dont les annonces récentes suggèrent qu'ils n'entendent pas ralentir.

UELes opérateurs européens déployant des infrastructures IA dépendent des mêmes mémoires HBM dont la rareté persistante fait grimper les coûts de construction des centres de données IA en Europe.

InfrastructureOpinion
1 source
DFlash accélère le décodage spéculatif par blocs de tokens en parallèle, jusqu'à 15x plus de débit sur NVIDIA Blackwell
Illustration générée par IA
31MarkTechPost 

DFlash accélère le décodage spéculatif par blocs de tokens en parallèle, jusqu'à 15x plus de débit sur NVIDIA Blackwell

Une équipe de chercheurs de l'UC San Diego (z-lab) a publié DFlash, une nouvelle technique d'inférence qui accélère radicalement la génération de texte par les grands modèles de langage. Là où les approches classiques de décodage spéculatif, comme EAGLE-3, proposent encore les tokens futurs un par un, DFlash adopte une logique de diffusion par blocs : un modèle léger génère un bloc entier de tokens en une seule passe parallèle, puis le grand modèle cible vérifie ce bloc simultanément. Les gains mesurés dépassent 6x d'accélération sans perte de qualité sur une variété de modèles et de tâches. Sur Qwen3-8B avec décodage glouton, DFlash atteint une accélération moyenne de 4,86x, contre 2,02x pour EAGLE-3 dans sa meilleure configuration. Sur les architectures NVIDIA Blackwell, les équipes d'ingénierie de NVIDIA rapportent jusqu'à 15x de débit supplémentaire sur gpt-oss-120b, à cible d'interactivité utilisateur constante, soit environ 2,5x mieux qu'EAGLE-3. Cette progression est significative pour toute l'industrie de l'inférence LLM, notamment pour les modèles de raisonnement à longue chaîne de pensée (Chain-of-Thought), dont la lenteur de génération est devenue le principal goulot d'étranglement opérationnel. Le principal avantage de DFlash réside dans son architecture : son drafter ne comporte que cinq couches (huit pour Qwen3-Coder), là où des approches antérieures comme DiffuSpec ou SpecDiff-2 mobilisaient des drafters de 7 milliards de paramètres pour plafonner à 3-4x. En injectant les représentations internes du modèle cible directement dans les projections Key et Value de chaque couche du drafter, DFlash maintient un signal fort quel que soit la profondeur de génération. Un drafter DFlash à cinq couches générant 16 tokens surpasse EAGLE-3 générant 8 tokens, à la fois en latence et en taux d'acceptation. Le décodage spéculatif existe depuis plusieurs années comme réponse à la sous-utilisation chronique des GPU modernes lors de l'inférence autoregressive : un petit modèle propose, un grand modèle vérifie en parallèle, et les tokens acceptés préservent la distribution de sortie originale. Mais la contrainte autoregressif du drafter limitait les gains réels à 2-3x en production. DFlash contourne ce plafond en empruntant aux modèles de diffusion leur capacité à débruiter un bloc masqué en une passe, sans assumer les inconvénients habituels des LLM diffusion purs, souvent moins précis et nécessitant de nombreuses étapes. La prochaine étape pour z-lab et NVIDIA sera de valider ces résultats en production multi-flux et à grande échelle, mais les chiffres actuels font de DFlash un candidat sérieux à l'adoption dans les infrastructures d'inférence haute performance.

UELes opérateurs européens d'inférence LLM (clouds souverains, startups IA) pourraient bénéficier indirectement d'une réduction significative des coûts de calcul si DFlash est intégré aux frameworks open-source comme vLLM ou SGLang.

💬 Le décodage spéculatif tournait en rond depuis des années, coincé à 2-3x de gain en production. DFlash passe à autre chose : un drafter de 5 couches génère des blocs entiers en parallèle et dépasse EAGLE-3 sous tous les angles, ce qui explique les 15x rapportés sur Blackwell et redéfinit ce que "inférence pas chère" peut vouloir dire pour des modèles de raisonnement. Si vLLM l'intègre vite, quelques acteurs cloud européens vont souffler.

RecherchePaper
1 source
NVIDIA et AWS s'associent pour déployer l'IA en production à grande échelle
Illustration générée par IA
32NVIDIA AI Blog 

NVIDIA et AWS s'associent pour déployer l'IA en production à grande échelle

NVIDIA et Amazon Web Services (AWS) ont annoncé un approfondissement de leur collaboration pour faciliter le déploiement de l'intelligence artificielle à grande échelle en production. Les nouvelles instances Amazon EC2 G7, équipées des GPU NVIDIA RTX PRO 4500 Blackwell Server Edition, offrent jusqu'à 4,6 fois les performances d'inférence IA et 2,1 fois les performances graphiques par rapport aux instances G6 précédentes. Ces instances supportent jusqu'à huit GPU, 256 Go de mémoire GPU totale, 700 Gbps de réseau EFA et jusqu'à 7,6 To de stockage NVMe local, dans des configurations allant d'un à huit GPU. Parallèlement, la bibliothèque NVIDIA cuVS devient le moteur par défaut de l'indexation vectorielle dans Amazon OpenSearch Serverless, avec des performances jusqu'à dix fois supérieures à un coût quatre fois inférieur aux solutions CPU seules. AWS a par ailleurs obtenu le statut NVIDIA Exemplar Cloud sur les GPU GB300, certification attestant que la plateforme répond aux seuils de performance de référence de NVIDIA pour les charges d'entraînement. Ces avancées changent concrètement la donne pour les équipes qui construisent des systèmes d'IA en production. L'intégration de cuVS comme choix par défaut dans OpenSearch Serverless transforme la recherche vectorielle accélérée par GPU d'un projet d'optimisation spécialisé en une capacité AWS standard. Cela signifie que des bases de données vectorielles à l'échelle du milliard d'entrées deviennent réalisables en moins d'une heure, ce qui rend les applications de type RAG (retrieval-augmented generation), recherche sémantique ou IA agentique accessibles à un bien plus grand nombre d'entreprises. Pour les équipes médias et data, les instances G7 permettent également de traiter des workflows vidéo haute résolution, du rendu 3D et des pipelines analytiques sur le même type d'instance, réduisant la complexité opérationnelle. Cette collaboration s'inscrit dans une course entre les grands fournisseurs cloud à offrir la meilleure infrastructure IA clé en main. NVIDIA cherche à s'imposer comme couche matérielle incontournable, aussi bien pour l'entraînement que pour l'inférence et la recherche vectorielle, tandis qu'AWS veut simplifier le passage de l'expérimentation à la production. Le statut Exemplar Cloud sur les GB300, fruit d'un co-engineering approfondi entre les deux entreprises, positionne AWS comme plateforme de référence pour les charges d'entraînement les plus exigeantes. Les instances G7 seront prochainement disponibles sur Amazon SageMaker AI, ce qui étendra encore leur portée. L'enjeu sous-jacent est de réduire la friction entre infrastructure et application pour les entreprises qui n'ont pas les ressources pour gérer leurs propres clusters GPU.

UELes entreprises européennes utilisant AWS pourront bénéficier de performances IA nettement améliorées pour l'inférence et la recherche vectorielle, sans impact réglementaire ou institutionnel direct pour la France ou l'UE.

InfrastructureOpinion
1 source
SpaceX est déjà un fournisseur cloud de 28 milliards de dollars par an
Illustration générée par IA
33Latent Space 

SpaceX est déjà un fournisseur cloud de 28 milliards de dollars par an

SpaceX vient de signer un troisième contrat de location de GPU, cette fois avec la startup Reflection AI, s'ajoutant aux accords déjà connus avec Anthropic et Google. L'analyste Jamin Ball a compilé les chiffres : les trois contrats totalisent 2,32 milliards de dollars par mois, à plus de 10 dollars de l'heure pour des GPU Blackwell de Nvidia. Annualisé, ce montant atteint 28 milliards de dollars par an, soit environ le double du revenu actuel de Coreweave, le spécialiste du cloud GPU introduit en bourse il y a un an pour une valorisation de 60 milliards. Baseten, de son côté, a officialisé une levée de fonds de 13 milliards de dollars en Série F, confirmant l'appétit massif des investisseurs pour l'infrastructure d'IA. L'émergence de SpaceX comme fournisseur cloud de premier plan redistribue les cartes dans un marché jusqu'ici dominé par AWS, Azure et Google Cloud. Le fait qu'Anthropic et Google, concurrents directs sur le terrain des modèles, louent simultanément de la capacité chez SpaceX révèle une pénurie structurelle de GPU Blackwell que les hyperscalers peinent à absorber seuls. Pour les startups d'IA, cette nouvelle offre réduit la dépendance à un fournisseur unique et pourrait, à terme, peser sur les tarifs. Le tarif actuel, supérieur à 10 dollars de l'heure, reste néanmoins très élevé, signe que la demande dépasse largement l'offre disponible sur le marché. Cette percée de SpaceX s'inscrit dans un moment de transformation accélérée de l'ensemble de l'écosystème. OpenAI a étendu son programme Daybreak avec le lancement de GPT-5.5-Cyber, un modèle dédié à la cybersécurité déjà revendiqué comme état de l'art sur le benchmark CyberGym, accompagné d'un plugin Codex Security couvrant plus de 30 millions de commits et 30 000 dépôts, avec pour ambition de passer de la simple détection de vulnérabilités à leur correction automatisée en boucle fermée. Sakana AI a de son côté lancé Fugu, une couche d'orchestration qui sélectionne et combine dynamiquement plusieurs modèles frontier via une API unique, rapidement intégrée par Vercel dans son AI Gateway. Les benchmarks présentés ont toutefois suscité une vive controverse, des observateurs pointant des baselines opaques, l'absence de comptabilisation des coûts et un retard d'environ dix points sur Opus dans SWE-Bench Pro. La question de qui manque encore à la liste des clients de SpaceX, notamment Meta ou Microsoft, reste posée et pourrait bien définir la prochaine vague de contrats.

UELa pénurie structurelle de GPU Blackwell et les tarifs supérieurs à 10 $/heure affectent indirectement les startups européennes d'IA qui dépendent de ces ressources de calcul, sans qu'aucun acteur ou régulation européen ne soit directement impliqué.

💬 Quand Anthropic et Google louent des GPU au même fournisseur en même temps, c'est pas un choix stratégique, c'est une pénurie. SpaceX ramasse 28 milliards annualisés sans avoir sorti un seul modèle, juste en achetant des Blackwell au bon moment pendant que les hyperscalers étaient à court, et ça dit quelque chose de net sur qui a compris que le calcul allait devenir la vraie contrainte. Meta et Microsoft sont absents de la liste.

InfrastructureOpinion
1 source
De la simulation des matériaux à l'astronomie : NVIDIA lance un logiciel d'IA pour la découverte scientifique
Illustration générée par IA
34NVIDIA AI Blog 

De la simulation des matériaux à l'astronomie : NVIDIA lance un logiciel d'IA pour la découverte scientifique

Lors de la conférence ISC qui se tient cette semaine à Hambourg, NVIDIA a annoncé plusieurs nouvelles bibliothèques logicielles destinées à accélérer la recherche scientifique grâce à l'IA et au calcul GPU. Parmi elles : la bibliothèque DAQIRI (Data Acquisition for Integrated Real-time Instruments), les microservices ALCHEMI NIM, et le code de référence cuPhoton, bientôt disponible. Ces outils font partie de l'écosystème CUDA-X de NVIDIA. Les gains de performance sont spectaculaires : cuPhoton, testé sur des systèmes GB200 NVL72, accélère le chargement et l'analyse des images astronomiques au format FITS par un facteur 14 900 pour les données du Rubin Observatory, et offre un traitement du signal jusqu'à 8 400 fois plus rapide avec 32 superchips Grace Blackwell. DAQIRI, de son côté, a été utilisé dans le cadre du projet A-GHOST, développé par le CERN, l'Université de Chicago et l'University College London, pour analyser en temps réel les données de collisions de l'expérience ATLAS, données qui étaient auparavant rejetées à plus de 99 % faute de capacité de stockage. ALCHEMI, quant à lui, propose déjà deux microservices pour la simulation moléculaire (relaxation de géométrie et dynamique moléculaire par lots), avec un support du logiciel VASP prévu prochainement. Ces outils changent fondamentalement l'échelle à laquelle la science peut opérer. Le Rubin Observatory et son instrument LSST, la plus grande caméra numérique jamais construite, génèrent des pétaoctets de données sur des milliards de galaxies et d'objets faiblement lumineux. Transformer ces flux massifs en résultats analysables en temps quasi réel ouvre des possibilités inédites pour la recherche sur la matière noire et l'énergie sombre. De même, A-GHOST permettra au CERN de récupérer des signaux potentiellement cruciaux qui disparaissaient jusqu'ici dans les filtres de sélection. Pour la chimie computationnelle, ALCHEMI permet de simuler des millions de molécules simultanément, ce qui accélère la découverte de nouveaux matériaux pour les batteries, les catalyseurs, les écrans OLED ou encore les formulations cosmétiques. Ces annonces s'inscrivent dans une tendance de fond : depuis plusieurs années, le calcul GPU migre des centres de données commerciaux vers les laboratoires scientifiques, portés par des projets comme AlphaFold ou les grands modèles de fondation pour la physique. NVIDIA positionne CUDA-X comme l'infrastructure transversale de cette transformation, en couvrant aussi bien l'astrophysique que la chimie ou la physique des particules. Les partenariats avec Princeton, Harvard et le CERN donnent une légitimité institutionnelle forte à ces outils. La prochaine intégration de VASP dans ALCHEMI, logiciel de référence mondial pour les simulations de matériaux ab initio, est particulièrement significative : elle signale que NVIDIA vise désormais le cœur des workflows scientifiques établis, et pas seulement leurs marges computationnelles.

UELe CERN, institution de recherche pan-européenne, intègre déjà DAQIRI dans le projet A-GHOST pour analyser en temps réel les données de l'expérience ATLAS, récupérant des signaux jusqu'ici perdus faute de capacité de traitement.

💬 99 % des données de collision de l'expérience ATLAS au CERN finissaient à la poubelle faute de capacité de traitement en temps réel. DAQIRI change ça, et c'est la stat la plus vertigineuse dans un article qui en compte pourtant beaucoup. L'intégration de VASP dans ALCHEMI dit le reste : NVIDIA ne vend plus des GPUs aux labos scientifiques, il en devient le système nerveux.

InfrastructureOpinion
1 source
Databricks et Nvidia préparent ensemble l’avenir de l’IA agentique
Illustration générée par IA
35Le Big Data 

Databricks et Nvidia préparent ensemble l’avenir de l’IA agentique

Databricks et Nvidia ont annoncé lors du Data + AI Summit un renforcement significatif de leur partenariat, centré sur le déploiement industriel de l'IA agentique en entreprise. Les deux groupes intègrent désormais plus profondément leurs infrastructures matérielles et logicielles, avec un accès serverless aux GPU Nvidia A10 et H100 directement dans la plateforme Databricks via un environnement baptisé AI Runtime (AIR). Les GPU Hopper, couplés au réseau Quantum InfiniBand, prennent en charge les entraînements distribués à grande échelle, tandis que la compatibilité avec l'architecture Blackwell prépare l'accès aux prochaines générations de puissance de calcul. Databricks a également annoncé la prise en charge des GPU Nvidia dans son édition gratuite, ainsi que le support prochain des conteneurs NGC et des environnements CUDA personnalisés, permettant aux équipes d'exécuter leurs stacks spécialisées sans multiplier les couches d'infrastructure externes. Ce tournant est stratégique pour les entreprises qui ne se contentent plus d'expérimenter l'IA générative : elles cherchent à industrialiser des agents capables de raisonner, d'agir et d'interagir avec leurs données métier dans des environnements sécurisés et gouvernés. L'accès GPU dans l'édition gratuite de Databricks abaisse concrètement la barrière d'entrée pour les startups, développeurs indépendants et équipes de recherche à budgets limités, ce qui pourrait accélérer significativement l'adoption de l'IA avancée hors des grandes entreprises. La réduction de la complexité opérationnelle, en rapprochant entraînement et déploiement des données gouvernées, répond à l'un des freins majeurs identifiés dans les projets d'IA en production. Le partenariat entre Databricks et Nvidia s'inscrit dans une mutation plus profonde des architectures d'IA. Les grands modèles de langage ont jusqu'ici concentré l'attention sur les GPU pour l'inférence, mais les agents autonomes de nouvelle génération exigent bien davantage : exécution d'appels d'outils, interrogation de bases de données, coordination de plusieurs étapes de raisonnement en temps réel, interaction avec des systèmes métiers hétérogènes. C'est dans ce contexte que Nvidia met en avant Vera, son futur processeur conçu pour ces charges de travail agentiques hybrides, combinant CPU et GPU dans une même puce. Databricks, valorisé 62 milliards de dollars lors de sa dernière levée de fonds en 2024, positionne ainsi sa plateforme comme la couche d'orchestration centrale pour les entreprises qui construisent la prochaine vague d'IA, au moment où la concurrence avec Snowflake, Google et Microsoft s'intensifie sur ce segment précis du marché.

UELes entreprises européennes utilisant Databricks pour leurs projets d'IA peuvent désormais accéder directement aux GPU Nvidia au sein de la plateforme sans couches d'infrastructure supplémentaires, réduisant la complexité opérationnelle de l'industrialisation de l'IA agentique.

InfrastructureOpinion
1 source
La France fait progresser l'avenir de l'IA en Europe avec les technologies NVIDIA
Illustration générée par IA
36NVIDIA AI Blog 

La France fait progresser l'avenir de l'IA en Europe avec les technologies NVIDIA

La France accélère son infrastructure d'intelligence artificielle à grande échelle, avec plusieurs annonces majeures dévoilées cette semaine à VivaTech 2026. Mistral, la licorne française de l'IA, a mis en service son premier centre de données à Bruyères-le-Châtel, en région parisienne, équipé de 18 000 systèmes NVIDIA GB200. Ce site de 44 mégawatts constitue la première étape d'un plan visant 200 mégawatts de capacité de calcul répartis à travers l'Europe d'ici 2027. Mistral collabore par ailleurs avec la banque publique Bpifrance, la société d'investissement MGX et NVIDIA pour développer Campus AI, un réseau d'usines d'IA dont l'élément central devrait atteindre 1,4 gigawatt. Bull et Foxconn ont annoncé la production en Europe du supercalculateur NVIDIA Vera Rubin NVL72 : les systèmes seront fabriqués en République tchèque puis assemblés et validés dans l'usine Bull d'Angers. Le fournisseur de cloud Scaleway propose désormais des instances NVIDIA Blackwell B300-SXM, et un consortium de huit entreprises françaises a soumis une candidature pour accueillir une gigafactory européenne de l'IA sur le sol français. Ces investissements positionnent la France comme l'un des pivots de l'infrastructure IA en Europe, dans un contexte de compétition mondiale intense pour la puissance de calcul. Pour les entreprises et développeurs du continent, disposer de ces ressources localement réduit la dépendance aux infrastructures américaines et répond aux exigences de souveraineté et de conformité imposées par la réglementation européenne. L'essor de modèles ouverts, adaptés aux langues et aux cadres juridiques locaux, donne aux organisations publiques et privées la capacité d'inspecter, d'adapter et d'auditer leurs systèmes d'IA. Schneider Electric, associé à NVIDIA pour concevoir des plans de déploiement de centres de données à l'échelle du gigawatt, entend industrialiser ces infrastructures pour répondre à une demande qui ne cesse d'accélérer. Ce déploiement prolonge la dynamique lancée à GTC Paris lors de VivaTech 2025, où la France avait annoncé ses ambitions nationales en matière d'IA. Le programme France 2030, le Sommet pour l'action sur l'IA de 2025 et le sommet Choose France ont depuis mobilisé des milliards d'euros d'engagements d'investissement. Sur scène à VivaTech cette année, des responsables de Gradium, H Company, LINAGORA et Pleias ont débattu du rôle des modèles ouverts dans l'écosystème européen. Pierre-Carl Langlais, directeur technique de Pleias, a résumé l'enjeu : "On passe de la construction d'un modèle isolé à une infrastructure de modèles en continu, où les modèles s'entraînent mutuellement, gèrent les données et valident l'apprentissage par renforcement." L'objectif affiché est que les pratiques de pointe en IA se diffusent à l'ensemble de l'économie européenne, en dehors de toute dépendance exclusive aux acteurs américains.

UELe déploiement de 18 000 systèmes GB200 à Bruyères-le-Châtel et la production du supercalculateur Vera Rubin à Angers réduisent concrètement la dépendance des entreprises et institutions françaises aux infrastructures cloud américaines, en ligne avec les exigences de souveraineté de l'AI Act.

💬 18 000 GB200 à Bruyères-le-Châtel, un supercalculateur assemblé à Angers, Scaleway avec du Blackwell en prod, là on parle d'infrastructure qui existe vraiment. Ce que ça change pour les entreprises européennes, c'est la possibilité de faire tourner des modèles lourds sans passer par un datacenter américain, ce qui n'est pas qu'un argument marketing quand l'AI Act t'impose des audits de tes systèmes. Bon, les gigawatts annoncés pour 2027, on verra si les délais tiennent.

InfrastructureActu
1 source
Paralléliser le décodage spéculatif avec P-EAGLE sur Amazon SageMaker AI
Illustration générée par IA
37AWS ML Blog 

Paralléliser le décodage spéculatif avec P-EAGLE sur Amazon SageMaker AI

Amazon Web Services a mis en open source une nouvelle méthode d'inférence appelée P-EAGLE (Parallel-EAGLE), désormais intégrée nativement dans Amazon SageMaker JumpStart pour accélérer le déploiement de grands modèles de langage en production. Basée sur la technique du décodage spéculatif, P-EAGLE transforme une étape jusqu'ici séquentielle en opération entièrement parallèle : au lieu de générer les tokens candidats un par un via plusieurs passes successives, elle les prédit tous simultanément en une seule passe vers l'avant. Sur des GPU NVIDIA B200 avec quantification FP8, des benchmarks réalisés sur le modèle Qwen3-Coder-30B-A3B-Instruct montrent des gains allant jusqu'à 1,69x de débit supplémentaire par rapport à EAGLE-3, le framework de référence précédent. À une concurrence de 1, P-EAGLE avec K=11 tokens spéculatifs atteint 1 167 tokens de sortie par seconde, contre 955 pour EAGLE-3 et seulement 294 sans spéculation. Cette avancée répond à un problème concret qui freinait les déploiements à grande échelle : plus on voulait spéculer loin dans la séquence, plus la latence augmentait de façon linéaire, annulant une partie du gain. P-EAGLE casse cette contrainte en remplissant les positions intermédiaires avec des marqueurs appris, permettant de prédire plusieurs tokens à la fois sans coût séquentiel supplémentaire. Pour les entreprises qui servent des millions de requêtes quotidiennes sur des modèles de code ou de génération longue, un gain de 1,69x de débit se traduit directement en réduction de coûts d'infrastructure ou en capacité à absorber davantage de trafic sans redimensionner le parc de GPU. L'intégration dans SageMaker JumpStart simplifie encore l'adoption : les développeurs peuvent déployer un endpoint optimisé P-EAGLE sans gérer manuellement les kernels CUDA sous-jacents ni les configurations de serving distribué. Le décodage spéculatif existe depuis plusieurs années comme technique d'optimisation d'inférence, et EAGLE en était devenu l'implémentation la plus performante, avec EAGLE-3 introduisant des prédictions directes de tokens et la fusion de représentations issues de plusieurs couches du modèle cible. Mais toutes ces versions conservaient une limite architecturale fondamentale héritée de l'autoregressivité du modèle brouillon. AWS a contourné ce plafond avec P-EAGLE, qu'il a choisi de reverser à la communauté open source plutôt que d'en faire un avantage exclusif. La méthode s'inscrit dans une compétition intense entre fournisseurs cloud pour offrir l'inférence la plus rapide et la moins coûteuse, notamment sur les modèles de code et de raisonnement qui génèrent des séquences longues. Avec son intégration SageMaker, AWS positionne P-EAGLE comme la voie par défaut pour les déploiements de modèles open-weight en production, au moment où des modèles comme Qwen3 et leurs successeurs s'imposent comme alternatives sérieuses aux modèles propriétaires.

UELes équipes européennes déployant des grands modèles en production sur infrastructure cloud peuvent bénéficier indirectement d'une réduction des coûts d'inférence GPU.

InfrastructureActu
1 source
Le plus rapide, le plus grand, le plus puissant : NVIDIA Blackwell domine le MLPerf Training 6.0
Illustration générée par IA
38NVIDIA AI Blog 

Le plus rapide, le plus grand, le plus puissant : NVIDIA Blackwell domine le MLPerf Training 6.0

NVIDIA a dominé l'édition MLPerf Training 6.0, le benchmark industriel de référence pour évaluer les performances d'entraînement des modèles d'IA, en remportant chaque catégorie du classement. La plateforme Blackwell de l'entreprise a affiché les temps d'entraînement les plus rapides sur la totalité des sept benchmarks du test, dont deux nouvelles charges de travail ajoutées à cette édition : DeepSeek-V3 671B et GPT-OSS-20B, deux modèles de type mixture-of-experts (MoE). NVIDIA est également le seul acteur à avoir soumis des résultats sur l'ensemble des sept benchmarks. À grande échelle, la société a déployé un cluster de 8 192 GPU GB200 NVL72 pour entraîner le modèle DeepSeek-V3, la plus vaste soumission Blackwell jamais réalisée dans MLPerf. Les partenaires cloud ont également brillé : CoreWeave a atteint la cible de qualité pour DeepSeek-V3 671B en seulement 2,02 minutes à 8 192 GPU avec des systèmes GB300 NVL72, tandis que Microsoft Azure a entraîné Llama 3.1 405B à la même échelle en 7,07 minutes, établissant un record sur ce benchmark. Ces résultats ont une portée directe sur la compétitivité des équipes qui construisent des modèles frontier. Raccourcir un cycle d'entraînement de plusieurs heures permet d'itérer plus vite, de réduire les coûts d'infrastructure et de lancer des produits commerciaux plus tôt. Le système GB300 NVL72 s'est montré jusqu'à 1,6 fois plus rapide que son prédécesseur GB200 NVL72 à scale identique, grâce à une densité de calcul accrue via le format numérique NVFP4, une capacité mémoire élargie et une enveloppe de puissance plus haute permettant au GPU de maintenir ses performances en continu. La technologie NVLink de cinquième génération, qui connecte les 72 GPU d'un même rack en un unique pool unifié de calcul et de mémoire, s'avère déterminante pour les architectures MoE, où les tokens doivent être acheminés dynamiquement vers différents sous-réseaux experts répartis sur de nombreux GPU. MLPerf est un programme de benchmarks indépendant, soumis à une révision par les pairs, qui sert de référence commune à l'ensemble de l'industrie pour comparer les performances d'entraînement de manière reproductible. NVIDIA y participe depuis ses débuts pour valider publiquement ses avancées matérielles. Avec Blackwell, l'entreprise consolide son leadership dans un moment clé : les modèles MoE, popularisés notamment par DeepSeek et Mistral, s'imposent comme l'architecture dominante pour les grands modèles de langage, car ils permettent de réduire le coût d'inférence tout en maintenant un haut niveau de performance. La prochaine génération de systèmes Blackwell Ultra et les progrès sur l'entraînement en précision réduite (NVFP4) indiquent que NVIDIA entend rester l'infrastructure de référence pour quiconque cherche à entraîner des modèles à la frontière des capacités actuelles.

UELes équipes européennes entraînant des modèles frontier en cloud bénéficieront indirectement de ces gains de performance matérielle, mais aucune entreprise ou institution française ou européenne n'est directement impliquée dans ces résultats.

InfrastructureActu
1 source
NVIDIA Blackwell domine le premier benchmark d'infrastructure pour agents autonomes d'IA
Illustration générée par IA
39NVIDIA AI Blog 

NVIDIA Blackwell domine le premier benchmark d'infrastructure pour agents autonomes d'IA

Artificial Analysis a publié AgentPerf, le premier benchmark sectoriel conçu spécifiquement pour évaluer les infrastructures d'IA agentique. Dans ce premier tour de résultats, la plateforme NVIDIA GB300 NVL72, basée sur l'architecture Blackwell Ultra, s'impose comme le système le plus performant : elle peut faire tourner jusqu'à 20 fois plus d'agents par mégawatt que l'ancienne génération HGX H200 (Hopper), quel que soit le seuil de qualité de service retenu (20 ou 60 tokens par seconde par agent). Le modèle de référence utilisé pour ce test est DeepSeek V4 Pro, un grand modèle de type mixture-of-experts représentatif des LLM qui propulsent aujourd'hui les agents les plus capables. La distinction entre IA conversationnelle et IA agentique est au coeur de cette initiative. Un chatbot classique réalise un seul appel LLM par échange : c'est un sprint. Un agent, lui, enchaîne des dizaines voire des centaines d'appels LLM entrelacés d'appels à des outils externes, compilation de code, recherche en base de données, navigation web, en transmettant à chaque étape un contexte de plus en plus long. La complexité n'est pas additive, elle est multiplicative. Les benchmarks d'inférence existants ne mesuraient qu'un seul appel LLM isolé et n'avaient pas été conçus pour capturer cette réalité. Pour une entreprise qui déploie des agents à grande échelle, les métriques pertinentes sont la réactivité des agents, le nombre d'instances simultanées supportées, et surtout le volume de travail utile produit par dollar et par watt investis. La performance du GB300 NVL72 repose sur une co-conception poussée de l'ensemble de la pile logicielle et matérielle. Le système interconnecte 72 GPU en une seule unité rack, ce qui permet aux grands modèles MoE comme DeepSeek V4 Pro de distribuer leur exécution efficacement. Les noyaux CUDA chevauchent communication et calcul pour absorber la latence de coordination entre experts. TensorRT-LLM sépare le traitement des entrées de la génération des sorties afin d'optimiser chaque phase indépendamment. AgentPerf lui-même est construit à partir de trajectoires réelles d'agents de codage opérant sur des dépôts publics couvrant plus de 12 langages de programmation, avec des longueurs de séquences, des délais d'appels d'outils et des patterns représentatifs de la production. Ce benchmark arrive à un moment où l'industrie bascule massivement vers des architectures agentiques, et où le choix d'infrastructure devient un avantage concurrentiel direct pour quiconque déploie ces systèmes à l'échelle.

UELes entreprises et cloud providers européens déployant des agents IA à grande échelle peuvent utiliser ce benchmark pour orienter leurs décisions d'achat de matériel.

💬 Vingt fois plus d'agents par mégawatt, c'est pas anodin. Ce qui m'intéresse surtout dans ce benchmark, c'est qu'il mesure enfin ce qui compte vraiment : pas un seul appel LLM en isolation, mais des chaînes complètes avec des dizaines d'appels et du contexte qui s'accumule à chaque étape. Reste à voir si ça se confirme sur des tâches moins lisses que du code sur des dépôts publics.

InfrastructureActu
1 source
#Nextquick Pourquoi tout le monde se jette encore sur les GPU NVIDIA pour l’IA
Illustration générée par IA
40Next INpact 

#Nextquick Pourquoi tout le monde se jette encore sur les GPU NVIDIA pour l’IA

Malgré l'essor de puces spécialisées développées par les géants du cloud, les GPU NVIDIA continuent de dominer massivement le marché de l'intelligence artificielle, tant pour l'entraînement des modèles que pour l'inférence. Google dispose de ses TPU (Tensor Processing Units), Amazon de ses puces Trainium, Microsoft de ses Maia -- pourtant, les datacenters du monde entier continuent de s'approvisionner en H100 et B200 de Santa Clara. La réponse tient en quatre lettres : CUDA. Lancée en 2007, soit près de deux décennies avant l'explosion de l'IA générative, la plateforme Compute Unified Device Architecture de NVIDIA s'est imposée comme un standard de facto que personne n'a réussi à détrôner depuis. L'avantage décisif de NVIDIA n'est pas seulement matériel -- c'est avant tout logiciel. Les ASIC comme les TPU sont des circuits intégrés à application spécifique, donc plus efficaces et souvent moins énergivores pour des tâches ciblées. Mais CUDA représente vingt ans d'optimisations, de bibliothèques, de frameworks, et d'une communauté de développeurs formés sur cet écosystème. PyTorch, TensorFlow, les outils de recherche des grands laboratoires -- tout est pensé et optimisé pour CUDA. Migrer vers une alternative signifie réécrire des piles logicielles entières, former des ingénieurs, et accepter une perte de performance pendant la transition. Pour la plupart des équipes, le coût dépasse largement les économies énergétiques promises. Ce verrouillage technologique illustre un phénomène classique dans l'industrie du logiciel : celui des effets de réseau et des coûts de migration qui figent un standard même lorsque des alternatives supérieures existent. Les hyperscalers comme Google ou Amazon utilisent bien leurs puces propriétaires en interne pour certaines charges de travail -- mais ils continuent également d'acheter massivement du NVIDIA pour leurs clients, qui exigent la compatibilité CUDA. L'extension récente de NVIDIA vers l'informatique quantique, qui "fait peur à tout le monde" selon les observateurs du secteur, montre que l'entreprise entend reproduire ce même playbook : imposer une plateforme logicielle tôt, avant que le marché ne se structure, et verrouiller l'écosystème pour les décennies suivantes.

UELes entreprises et laboratoires européens restent dépendants de l'écosystème CUDA-NVIDIA, ce qui limite leur capacité à développer une souveraineté technologique en matière d'infrastructure IA.

InfrastructureOpinion
1 source
DiffusionGemma de Google génère 256 tokens en parallèle et s'autocorrige à la volée
Illustration générée par IA
41VentureBeat AI 

DiffusionGemma de Google génère 256 tokens en parallèle et s'autocorrige à la volée

Google a publié cette semaine DiffusionGemma, un modèle de langage open source expérimental qui abandonne la génération séquentielle de texte au profit d'une approche par diffusion, inspirée des générateurs d'images comme Stable Diffusion. Construit sur l'architecture Gemma 4 et distribué sous licence Apache 2.0, le modèle génère 256 tokens simultanément en parallèle plutôt qu'un par un, chaque position du bloc ayant accès au contexte complet dans les deux sens. Sur un seul GPU Nvidia H100, la version quantifiée FP8 atteint 1 008 tokens par seconde, et 1 288 sur H200, soit environ six fois les performances d'un modèle autorégressif classique selon les benchmarks vLLM publiés le même jour. Google revendique un gain de vitesse jusqu'à 4x par rapport aux modèles standards sur GPU. C'est également le premier modèle de diffusion textuelle nativement intégré dans la plateforme d'inférence open source vLLM, avec un modèle Mixture of Experts de 26 milliards de paramètres n'en activant que 3,8 milliards à l'inférence, tenant dans 18 Go de VRAM et donc compatible avec une RTX 4090 ou 5090. L'intérêt principal de cette approche réside dans deux propriétés structurelles absentes des modèles actuels : l'autocorrection et le contexte bidirectionnel. Un modèle autorégressif classique est incapable de revenir sur un token déjà émis, même incorrect, car les tokens suivants en sont déjà conditionnés. DiffusionGemma part d'un bloc de 256 tokens aléatoires, passe plusieurs fois sur l'ensemble, verrouille les positions les plus certaines, randomise les incertaines et les reconsidère à la lumière de ce qui a déjà été stabilisé. Google illustre cette capacité avec un solveur de Sudoku finement ajusté : le modèle de base résolvait zéro grille, après fine-tuning il atteint 80% de réussite en 12 passes de débruitage au lieu de 48, grâce à l'arrêt précoce permis par l'autocorrection. Pour les déploiements locaux ou à faible concurrence, où un GPU classique passe l'essentiel du temps à attendre des tokens un par un, le gain est particulièrement concret. L'architecture représente un changement de paradigme pour l'inférence de modèles de langage, même si Google a été transparent sur ses limites : la qualité globale des sorties reste inférieure à celle de Gemma 4 standard, et l'entreprise recommande explicitement ce dernier pour les applications exigeant une qualité maximale. L'intégration dans vLLM a nécessité des développements spécifiques puisque DiffusionGemma alterne entre attention causale et bidirectionnelle selon la phase de traitement, une première pour la plateforme. Google et Nvidia ont co-optimisé les noyaux NVFP4 pour les serveurs Hopper et Blackwell d'entreprise. La nouvelle interface ModelState conçue pour cette intégration est pensée pour accueillir d'autres modèles de diffusion à venir, signalant que cette direction de recherche est désormais considérée comme mûre pour la production.

UELes développeurs et chercheurs européens peuvent déployer DiffusionGemma localement sur GPU grand public (RTX 4090/5090, 18 Go VRAM) via vLLM sous licence Apache 2.0, réduisant la dépendance aux services cloud pour l'inférence rapide.

💬 Le plus intéressant là-dedans, c'est pas la vitesse, c'est l'autocorrection : un autorégressif classique ne peut pas revenir sur un token raté une fois que les suivants s'en sont emparés. DiffusionGemma repart du début à chaque passe, verrouille ce qui est certain, reconsidère le reste, et ça change la logique d'inférence plus profondément qu'un simple gain de débit. La qualité reste sous Gemma 4 standard, Google le dit lui-même, donc pas encore pour la prod, mais comme signal de recherche, c'est le genre de truc qu'on attendait.

LLMsPaper
1 source
NVIDIA intègre le calcul confidentiel pour renforcer le Private Cloud Compute d'Apple
Illustration générée par IA
42NVIDIA AI Blog 

NVIDIA intègre le calcul confidentiel pour renforcer le Private Cloud Compute d'Apple

Apple vient d'annoncer lors de sa conférence annuelle WWDC 2026 l'extension de son infrastructure Private Cloud Compute (PCC) au-delà de ses propres centres de données, vers Google Cloud. Pour sécuriser cette expansion, Apple s'appuie désormais sur les GPU NVIDIA avec Confidential Computing, notamment les puces Blackwell de dernière génération. Ces GPU servent à l'inférence confidentielle côté serveur pour les Apple Foundation Models, des modèles d'IA propriétaires développés conjointement par Apple et Google à partir des technologies qui sous-tendent la famille Gemini. C'est la première fois qu'Apple intègre explicitement du matériel NVIDIA dans l'architecture de sécurité matérielle de PCC, un système conçu pour traiter des requêtes d'intelligence artificielle sensibles sans exposer les données des utilisateurs. Cette collaboration soulève un enjeu fondamental pour l'IA à grande échelle : comment traiter des données personnelles dans le cloud sans sacrifier ni la performance ni la confidentialité. Le Confidential Computing de NVIDIA répond à cette contrainte en isolant les charges de travail dans des environnements d'exécution sécurisés, en chiffrant les flux de communication entre composants, et en permettant une attestation à distance, un mécanisme cryptographique qui permet au logiciel de vérifier que l'infrastructure n'a pas été compromise avant d'y envoyer des données sensibles. Concrètement, cela signifie que personne, y compris les ingénieurs d'Apple, de Google ou de NVIDIA, ne peut accéder aux conversations ou données des utilisateurs pendant le traitement. Pour des centaines de millions d'utilisateurs Apple qui activent des fonctions Apple Intelligence impliquant du traitement cloud, cette garantie est directement opérationnelle. Cette annonce s'inscrit dans une tendance de fond : à mesure que les expériences d'IA hybrides combinent traitement sur l'appareil et inférence serveur, la pression sur la chaîne de confiance s'intensifie. Apple avait fait de la confidentialité de PCC une promesse centrale depuis l'introduction d'Apple Intelligence, mais ses centres de données propriétaires limitaient sa capacité à monter en puissance. Le recours à Google Cloud, avec des GPU Blackwell sécurisés, lui permet de scaler sans renoncer à cette promesse. Pour NVIDIA, c'est une validation de son positionnement sur la sécurité de l'IA, un segment encore peu exploité mais stratégique face à des régulations croissantes sur les données personnelles. L'intégration de ces trois acteurs majeurs, Apple, Google et NVIDIA, autour d'un standard commun de confidentialité computationnelle pourrait accélérer l'adoption de ce type d'architecture dans l'ensemble de l'industrie.

UEL'architecture de confidentialité computationnelle décrite pourrait devenir un standard pour les entreprises européennes soumises au RGPD cherchant à déployer l'IA dans le cloud sans compromettre la protection des données personnelles.

💬 Apple qui sous-traite sa confidentialité à Google Cloud, c'est un paradoxe savoureux. Mais le Confidential Computing de NVIDIA change la lecture : l'attestation à distance garantit que même les ingénieurs des trois boîtes ne touchent pas aux données pendant l'inférence, c'est pas du branding, c'est de la cryptographie. Reste à voir si ça tient à l'échelle, mais sur le papier c'est le template qu'on attendait pour que l'IA cloud passe enfin le test RGPD.

Comment xAI Colossus redéfinit les règles de la course à l’IA
Illustration générée par IA
43Le Big Data 

Comment xAI Colossus redéfinit les règles de la course à l’IA

En mars 2023, Elon Musk fonde xAI pour affronter directement OpenAI, Google et Meta dans la course aux grands modèles de langage. Le premier modèle, Grok, sort fin 2023 avec des résultats prometteurs, mais l'entreprise se heurte rapidement à un obstacle structurel majeur : elle ne possède aucune infrastructure propre et loue sa puissance de calcul auprès de fournisseurs cloud comme Oracle. Pour briser cette dépendance, Musk lance dès le printemps 2024 un chantier d'une rapidité inédite. xAI rachète une ancienne usine Electrolux de 73 000 mètres carrés à Memphis, Tennessee, et y déploie le supercalculateur Colossus. Début 2026, le site concentre environ 555 000 processeurs NVIDIA interconnectés, principalement des H100 et H200 dans le premier bloc (Colossus 1), et la nouvelle architecture Blackwell GB200/GB300 dans le second (Colossus 2), auxquels s'ajoute une extension satellitaire en cours à Southaven. À près de 35 000 dollars l'unité, le seul achat des composants dépasse les 18 milliards de dollars. Cette infrastructure redéfinit les rapports de force dans l'industrie de l'IA. En contrôlant son propre parc de calcul, xAI s'affranchit des délais et des contraintes imposés par les fournisseurs tiers, ce qui lui permet d'accélérer l'entraînement de ses modèles au rythme qu'elle impose. La densité thermique extrême générée par 555 000 puces a nécessité l'abandon du refroidissement par air au profit d'un système à eau intégral en circuit fermé, fourni par Dell et Supermicro, qui capte la chaleur directement sur le silicium et réduit significativement les coûts d'électricité liés à la climatisation. Sur le plan réseau, xAI a fait le choix de rejeter l'InfiniBand, standard dominant mais coûteux et en rupture mondiale, pour déployer la plateforme NVIDIA Spectrum-X Ethernet, avec routage adaptatif et protocole RoCE, afin d'éliminer la latence de queue qui paralyse les clusters lors des échanges massifs de paramètres entre processeurs. Ce projet s'inscrit dans une rivalité technologique et géopolitique qui dépasse largement xAI. La puissance de calcul est devenue la ressource stratégique centrale de l'IA : qui contrôle les clusters contrôle le rythme d'innovation. Microsoft, Google et Amazon ont chacun engagé des dizaines de milliards dans leurs propres datacenters, tandis que la pénurie mondiale de puces NVIDIA maintient une pression constante sur les acteurs moins capitalisés. En construisant Colossus en moins d'un an, là où l'industrie estimait le délai à deux ans minimum, xAI a envoyé un signal clair sur sa capacité d'exécution. La prochaine étape sera de transformer cette puissance brute en avance technologique durable face à des concurrents qui ne restent pas immobiles.

UELa concentration de capacité de calcul chez les acteurs américains creuse l'écart avec les laboratoires et startups européens, renforçant leur dépendance aux infrastructures cloud extérieures à l'UE.

InfrastructureOpinion
1 source
NVIDIA lance Cosmos 3 : un modèle de fondation à deux tours mêlant raisonnement physique, génération de mondes et d'actions
Illustration générée par IA
44MarkTechPost 

NVIDIA lance Cosmos 3 : un modèle de fondation à deux tours mêlant raisonnement physique, génération de mondes et d'actions

NVIDIA a publié Cosmos 3, une nouvelle famille de modèles d'IA fondationnels conçus pour les systèmes d'IA physique, robots, véhicules autonomes et systèmes de surveillance industrielle. La particularité de cette version réside dans son architecture dite Mixture-of-Transformers (MoT) à deux tours, qui réunit pour la première fois dans un seul modèle trois capacités jusqu'ici séparées : le raisonnement physique, la génération de monde (vidéo, images, son) et la génération d'actions. NVIDIA a publié en open source les poids, scripts d'entraînement, outils de déploiement et jeux de données. Deux échelles sont disponibles au lancement : Cosmos3-Nano (16 milliards de paramètres, basé sur Qwen3-VL 8B) pour l'inférence sur GPU workstation comme la RTX PRO 6000, et Cosmos3-Super (64 milliards de paramètres, basé sur Qwen3-VL 32B) pour les datacenters équipés de GPU Hopper ou Blackwell. Des variantes spécialisées accompagnent cette sortie, dont Super Text2Image, Super Image2Video et Nano-Policy-DROID. L'unification de ces trois capacités dans un seul modèle représente un changement structurel pour les équipes qui développent des systèmes robotiques ou de conduite autonome. Jusqu'ici, il fallait orchestrer plusieurs modèles distincts, un pour percevoir, un pour prédire, un pour agir, ce qui multipliait la complexité d'intégration et les points de défaillance. Cosmos 3 propose un flux cohérent : la tour "reasoner" (un VLM autorégressif qui comprend images, vidéos et texte) conditionne la tour "generator" (diffusion pour la vidéo et les actions), l'information circulant dans un seul sens. Les équipes de robotique temps réel peuvent faire tourner le Nano sur du matériel de terrain, tandis que les équipes de R&D génèrent des données synthétiques à grande échelle avec le Super. Sur les benchmarks, Cosmos 3 domine VANTAGE-Bench et le leaderboard TAR (Traffic Anomaly Reasoning) dans leurs catégories respectives. Cette sortie s'inscrit dans la stratégie d'NVIDIA visant à s'imposer comme infrastructure logicielle de l'IA physique, au-delà de la simple vente de GPU. Les versions précédentes de Cosmos fragmentaient les capacités ; Cosmos 3 consolide l'approche autour d'un socle commun initialisé depuis les poids Qwen3-VL de l'écosystème open source. Le modèle gère nativement des entrées texte, image, vidéo et tableaux d'actions JSON, et produit des sorties allant jusqu'à 720p à 24 FPS avec son stéréo AAC 48 kHz, pour une durée maximale d'environ 12,5 secondes. Il supporte une gamme d'embodiments robotiques (caméra, véhicule, bras simple ou double, humanoïde), chacun avec des dimensions d'action fixes. Face à la montée en puissance de Google DeepMind, Boston Dynamics et des startups robotiques chinoises, NVIDIA mise sur l'open source et la verticalisation logicielle pour ancrer son écosystème dans les prochaines années de déploiement d'IA physique.

UELes équipes européennes de robotique et de véhicules autonomes peuvent accéder gratuitement à un modèle de fondation unifié pour l'IA physique, réduisant la complexité d'intégration et les coûts de R&D pour les industriels actifs dans l'automatisation et la mobilité autonome.

💬 Orchestrer trois modèles séparés pour percevoir, prédire et agir, c'était le quotidien douloureux des équipes robotique, et Cosmos 3 règle ça proprement. L'open source complet, poids + scripts + datasets, c'est pas de la comm, NVIDIA construit une base logicielle sur laquelle personne ne pourra se passer d'eux dans 3 ans. Reste à voir si le Nano tient en conditions réelles, parce que sur les benchmarks c'est toujours plus joli qu'en prod.

RobotiqueOpinion
1 source
Microsoft Build : MAI-Thinking-1 et la famille de modèles MAI
Illustration générée par IA
45Latent Space 

Microsoft Build : MAI-Thinking-1 et la famille de modèles MAI

Lors de la conférence Microsoft Build des 1er et 2 juin 2026, Satya Nadella et Mustafa Suleyman ont annoncé le lancement de sept nouveaux modèles d'intelligence artificielle sous la bannière MAI, la division IA interne de Microsoft. La famille comprend MAI-Thinking-1, le modèle phare de raisonnement, ainsi que MAI-Code-1-Flash pour la génération de code, MAI-Image-2.5 pour la vision, MAI-Transcribe-1.5 pour la transcription vocale et MAI-Voice-2 pour la synthèse vocale. MAI-Thinking-1 est une architecture MoE (Mixture of Experts) de 35 milliards de paramètres actifs, avec une fenêtre de contexte de 256 000 tokens, pré-entraîné sur 30 000 milliards de tokens grâce à 8 192 GPU GB200. Le modèle atteint 97 % sur le benchmark AIME 2025 et 53 % sur SWE-Bench Pro. Microsoft a également publié un rapport technique de 109 pages détaillant son architecture, saluée par la communauté de recherche pour son niveau de transparence inhabituel. Ces annonces marquent une étape significative pour Microsoft, qui se positionne désormais non plus seulement comme plateforme IA mais comme laboratoire de frontier models à part entière. Le fait que MAI-Thinking-1 ait été entraîné sans distillation à partir de modèles tiers, contrairement à de nombreux modèles concurrents, lui confère une crédibilité technique particulière. Des évaluateurs humains indépendants sur la plateforme Surge ont préféré ce modèle à Claude Sonnet 4.6 d'Anthropic dans des tests en aveugle. Pour les entreprises, cette offre ouvre la voie à des fine-tuning spécialisés dans des domaines précis, un créneau que les laboratoires frontier comme OpenAI ou Google ont progressivement abandonné. L'annonce de Web IQ, une nouvelle couche API de recherche et d'ancrage pour agents IA que Microsoft revendique déjà au cœur de "presque tous les agents et chatbots de l'industrie, y compris Copilot et ChatGPT", renforce cette ambition de devenir l'infrastructure invisible de l'IA d'entreprise. Microsoft AI, anciennement connue sous le nom d'Inflection AI après son rachat en 2024, n'existe que depuis deux ans sous cette forme. Le fait qu'elle produise des modèles entraînés de zéro à ce niveau de performance illustre la rapidité de montée en puissance possible avec des ressources computationnelles massives. Build 2026 a également mis en avant GitHub Copilot repositionné comme environnement de développement natif pour agents, une nouvelle Surface RTX Spark Dev Box, et des projets hardware conceptuels comme Solara et Scout. Mustafa Suleyman a décrit Microsoft comme une "machine à escalader des collines", ce qui traduit une stratégie d'amélioration continue et méthodique plutôt que des percées spectaculaires. La prochaine étape sera de voir si MAI-Thinking-1 tient ses promesses dans des déploiements réels, et si Microsoft parvient à convaincre l'écosystème de développeurs de s'appuyer sur ses modèles plutôt que ceux d'OpenAI, dont il reste paradoxalement l'un des principaux investisseurs.

UELes entreprises européennes sur Azure peuvent accéder aux modèles MAI et à l'API Web IQ pour leurs agents IA, réduisant potentiellement leur dépendance aux modèles OpenAI.

💬 MAI-Thinking-1 entraîné de zéro, sans distillation depuis OpenAI ou quiconque, c'est la vraie nouveauté de Build 2026. Ça donne une crédibilité technique que peu s'attendaient à voir en deux ans d'existence. Reste à savoir si les devs vont faire confiance aux MAI plutôt qu'à OpenAI, sachant que Microsoft finance les deux en même temps.

LLMsOpinion
1 source
Perplexity AI présente son système d'inférence hybride local-cloud au Computex 2026
Illustration générée par IA
46VentureBeat AI 

Perplexity AI présente son système d'inférence hybride local-cloud au Computex 2026

Perplexity AI, la startup de recherche valorisée à 20 milliards de dollars, a présenté lundi soir au salon Computex 2026 ce qu'elle décrit comme le premier orchestrateur d'inférence hybride local-cloud du marché. Le PDG Aravind Srinivas a fait la démonstration en direct aux côtés de Lip-Bu Tan, directeur général d'Intel, lors du keynote de l'entreprise. Sur scène, le système traitait des documents financiers confidentiels en répartissant automatiquement les tâches: les informations sensibles restaient sur l'appareil, équipé d'un processeur Intel Core Ultra Série 3, tandis que les raisonnements complexes étaient envoyés vers des modèles cloud. La nouveauté n'est pas qu'un modèle tourne en local, mais que le système décide lui-même, en temps réel et en cours d'exécution, quelle partie de chaque tâche doit rester sur la machine et laquelle peut rejoindre le cloud. Selon la société, aucun produit n'avait jusqu'ici automatisé cette décision de routage. La fonctionnalité sera disponible dans les prochaines semaines. L'enjeu concret est celui de la confidentialité des données dans un contexte d'agents IA de plus en plus autonomes. En demandant une validation utilisateur avant d'envoyer des éléments sensibles vers le cloud, Perplexity répond directement aux inquiétudes des entreprises sur la gouvernance des données dans les systèmes agentiques. Pour les professionnels manipulant des informations médicales, juridiques ou financières, cette architecture permet de bénéficier de la puissance des grands modèles de langage comme Claude, Gemini ou GPT sans renoncer au contrôle sur les données les plus critiques. C'est un compromis que ni les solutions purement locales ni les agents entièrement cloud ne proposaient jusqu'ici. Cette annonce s'inscrit dans une trajectoire de produit accélérée depuis le début de l'année. Le 25 février, Perplexity lançait Computer, un agent multi-modèles orchestrant 19 modèles d'IA différents, entièrement dans le cloud. En mars, lors de sa conférence développeurs Ask 2026, la startup introduisait Personal Computer, une application Mac hybride capable d'accéder au système de fichiers local dans un environnement sécurisé et auditable. Le système présenté à Computex franchit une étape supplémentaire: l'orchestrateur raisonne désormais sur le lieu d'exécution de chaque fragment de tâche, pas seulement sur le choix du modèle. La démonstration intervient dans un contexte industriel particulièrement favorable, Computex 2026 étant dominé par le thème de l'IA embarquée: quelques heures plus tôt, Jensen Huang avait dévoilé le RTX Spark, une puce Arm Nvidia intégrant un GPU Blackwell avec 6 144 coeurs CUDA, 128 Go de mémoire LPDDR5X et une bande passante de 300 Go/s, conçue pour une nouvelle génération de PC nativement IA.

UELes entreprises européennes soumises au RGPD pourraient bénéficier directement de cette architecture hybride, qui permet de maintenir les données sensibles en local tout en accédant aux grands modèles cloud, répondant aux exigences de souveraineté et de gouvernance des données imposées par la réglementation européenne.

OutilsOpinion
1 source
NVIDIA et Microsoft s'associent pour un environnement unifié de déploiement d'agents IA, des appareils Windows au cloud
Illustration générée par IA
47NVIDIA AI Blog 

NVIDIA et Microsoft s'associent pour un environnement unifié de déploiement d'agents IA, des appareils Windows au cloud

NVIDIA et Microsoft ont dévoilé lors de Microsoft Build un partenariat élargi pour déployer une pile technologique unifiée dédiée à l'IA agentique, couvrant les PC Windows, le cloud Azure et les environnements locaux. Jensen Huang, fondateur et PDG de NVIDIA, est intervenu en direct depuis Taipei aux côtés de Satya Nadella pour présenter les nouvelles initiatives. Au programme : les PC RTX Spark et les stations DGX Station for Windows, l'accélération GPU de Microsoft Fabric, les modèles ouverts NVIDIA sur Microsoft Foundry, et le runtime sécurisé NVIDIA OpenShell intégré à GitHub Copilot. RTX Spark cible les laptops et petits ordinateurs de bureau avec 1 pétaflop de performance IA, jusqu'à 128 Go de mémoire unifiée et une autonomie toute la journée, avec des systèmes attendus cet automne chez Microsoft Surface, ASUS, Dell, HP, Lenovo et MSI. La DGX Station for Windows, propulsée par le superchip NVIDIA GB300 Grace Blackwell Ultra, offre jusqu'à 748 Go de mémoire cohérente et 20 pétaflops en FP4, capable de faire tourner des modèles jusqu'à 1 billion de paramètres, avec des livraisons prévues au quatrième trimestre 2026 chez ASUS, Dell, GIGABYTE, HP, MSI et Supermicro. Ce partenariat marque un tournant dans la course à l'IA agentique d'entreprise en proposant, pour la première fois, une chaîne complète allant du matériel personnel à l'infrastructure cloud. Pour les développeurs et les entreprises, cela signifie pouvoir construire, affiner et déployer des agents IA directement sur Windows sans dépendre exclusivement du cloud. Les modèles Claude d'Anthropic tournent désormais nativement sur les systèmes Blackwell Ultra dans Azure, avec une disponibilité annoncée dans les prochaines semaines. Sur Microsoft Foundry, le nouveau NVIDIA Nemotron 3 Ultra, conçu pour le raisonnement de longue durée dans des tâches de codage, de recherche et de workflows d'entreprise, est disponible dès ce mois-ci, accompagné de Nemotron 3.5 ASR pour la reconnaissance vocale et Nemotron 3.5 Content Safety pour la modération de contenu. Ce rapprochement intervient alors que l'ensemble de l'industrie cherche à concrétiser la promesse des agents IA autonomes capables d'exécuter des tâches complexes sur la durée. NVIDIA, dont les GPU sont devenus incontournables dans les data centers, étend son influence jusqu'au bureau et au PC personnel, concurrençant indirectement Apple Silicon et AMD sur le terrain de l'inférence locale. Le runtime OpenShell, sécurisé nativement, répond aux exigences de gouvernance des grandes entreprises qui hésitent encore à confier des tâches autonomes à des agents. L'intégration des bibliothèques CUDA-X comme cuDF, cuOpt et NeMo directement accessibles aux agents ouvre la voie à des workflows scientifiques plus complexes, notamment avec le modèle Cosmos 3 pour la simulation du monde physique et les modèles météo Earth-2 disponibles via Microsoft Planetary Computer Pro.

UELes entreprises européennes utilisant Azure et Windows bénéficieront d'une chaîne de déploiement IA unifiée du PC personnel au cloud, réduisant la dépendance exclusive à l'infrastructure cloud pour les workflows agentiques.

💬 Jensen Huang qui s'invite en hologramme depuis Taipei pendant le keynote de Satya, c'est le genre de mise en scène qui cache souvent un partenariat creux. Là, non : la DGX Station sous Windows avec 748 Go de mémoire cohérente et 20 pétaflops, c'est du concret pour les boîtes qui refusent de tout mettre dans Azure. Reste à voir si les prix seront accessibles à autre chose qu'aux grands comptes, mais l'idée d'une chaîne complète du laptop au datacenter sans changer de stack, ça change vraiment quelque chose pour les équipes qui font tourner des agents en prod.

InfrastructureActu
1 source
Nvidia dévoile son robot humanoïde Isaac GR00T… et il déchire grave
Illustration générée par IA
48Le Big Data 

Nvidia dévoile son robot humanoïde Isaac GR00T… et il déchire grave

Nvidia a présenté le 1er juin 2026, lors du Computex à Taipei, son robot humanoïde de référence baptisé Isaac GR00T Reference Humanoid Robot. Développé en partenariat avec Unitree, spécialiste chinois de la robotique, et Sharpa, entreprise singapourienne experte en mains robotiques, ce système repose sur le corps humanoïde H2 Plus d'Unitree, 1,80 mètre, 68 kilogrammes, 31 degrés de liberté. Les mains tactiles à cinq doigts de Sharpa ajoutent 22 degrés de liberté chacune, portant le total à 75 points d'articulation sur l'ensemble du corps. Chaque bras peut soulever 7 kilogrammes en continu, avec des pics à 15 kilogrammes. Le cerveau du système est le calculateur Jetson Thor, basé sur l'architecture Blackwell de Nvidia, capable de dépasser 2 000 téraflops dédiés à l'IA. Le robot embarque le modèle GR00T 1.7 dès sa sortie de boîte, et une batterie de 0,972 kWh offrirait environ trois heures d'autonomie, selon des sources non confirmées officiellement par Nvidia. L'enjeu de cette annonce dépasse largement le robot lui-même. Nvidia ne vend pas un produit commercial destiné aux entreprises ou aux particuliers, mais une plateforme de référence pour la recherche. L'idée est de fournir aux laboratoires un socle matériel et logiciel unifié, comparable à ce qu'un PC de référence représente pour l'informatique grand public : éviter que chaque équipe perde des mois à assembler et intégrer ses propres composants, pour se concentrer sur ce qui compte, à savoir développer des algorithmes, des comportements et des capacités cognitives. Stanford Robotics Center, ETH Zurich, Ai2 de Seattle et le laboratoire de robotique de l'UC San Diego figurent parmi les premiers partenaires confirmés. La disponibilité pour les développeurs et laboratoires intéressés est prévue d'ici fin 2026. Cette initiative s'inscrit dans une bataille industrielle et géopolitique de grande ampleur autour de la robotique humanoïde. Des acteurs comme Boston Dynamics, Figure, Tesla avec Optimus, ou encore 1X Technologies investissent massivement dans ce domaine, perçu comme le prochain grand marché de l'IA physique. Nvidia, jusqu'ici positionné comme fournisseur de puissance de calcul, tente avec Isaac GR00T de devenir la couche d'infrastructure incontournable de toute la filière robotique mondiale. L'absence notable d'institutions chinoises parmi les premiers partenaires, alors même qu'Unitree est un acteur chinois central du projet, révèle la tension géopolitique qui traverse ce secteur. En standardisant la plateforme de recherche, Nvidia espère non seulement accélérer les progrès scientifiques, mais aussi s'imposer comme le standard de référence avant que ses concurrents ne définissent les leurs.

UEETH Zurich figure parmi les premiers laboratoires partenaires confirmés, ouvrant aux chercheurs européens un accès potentiel à cette plateforme de référence en robotique humanoïde d'ici fin 2026.

💬 Ce qui m'intéresse, c'est pas le robot, c'est le coup qu'essaie de rejouer Nvidia. Imposer une plateforme de référence à la recherche avant que le marché se structure, c'est exactement comme ça que CUDA est devenu incontournable il y a vingt ans. L'absence des labos chinois dans les premiers partenaires alors qu'Unitree est au coeur du hardware, ça dit tout sur où se joue vraiment la bataille.

RobotiqueOpinion
1 source
Chargement des LLM accéléré et fenêtres de contexte élargies avec GPUDirect, Amazon FSx for Lustre et TurboQuant
Illustration générée par IA
49AWS ML Blog 

Chargement des LLM accéléré et fenêtres de contexte élargies avec GPUDirect, Amazon FSx for Lustre et TurboQuant

Amazon Web Services vient d'annoncer une combinaison technique qui pourrait transformer le déploiement de grands modèles de langage en production : l'utilisation conjointe d'Amazon FSx for Lustre, de NVIDIA GPUDirect Storage (GDS) et d'une nouvelle technique de quantification appelée TurboQuant. Concrètement, charger un modèle comme Llama 3.1 405B, soit environ 800 gigaoctets de poids en BF16, prend aujourd'hui entre 10 et 20 minutes avec une infrastructure classique. Avec GDS sur les nouvelles instances P6 et P6e d'AWS, propulsées par l'architecture NVIDIA Blackwell, ce délai tombe à quelques secondes. Le flagship P6e UltraServer concentre 72 GPU Blackwell dans un seul domaine NVLink, avec 13,4 téraoctets de mémoire HBM3e et 360 pétaflops de calcul en FP8. Le problème que résout cette approche est fondamental pour l'industrie de l'inférence à grande échelle. Dans le pipeline traditionnel, les poids du modèle transitent séquentiellement depuis le stockage vers la RAM CPU, sont désérialisés, éventuellement quantifiés, puis copiés un par un vers chaque GPU via le bus PCIe. Pendant tout ce temps, parfois vingt minutes, les GPU les plus chers de l'infrastructure restent inactifs. GPUDirect Storage court-circuite entièrement ce chemin : les checkpoints du modèle sont pré-découpés en fragments sur FSx for Lustre, et les huit GPU d'une instance lisent leurs fragments en parallèle directement dans leur mémoire HBM, sans jamais passer par le CPU ni le PCIe. L'impact est immédiat sur trois métriques critiques : la latence au premier token lors d'un démarrage à froid, la réactivité de l'autoscaling lors des pics de charge, et le coût d'infrastructure lié aux GPU qui attendent. Cette annonce s'inscrit dans une course à l'optimisation de l'inférence LLM qui s'est intensifiée depuis l'émergence de modèles à plusieurs centaines de milliards de paramètres. Des frameworks comme vLLM ont certes amélioré le chargement parallèle des poids depuis la version 0.19 et son moteur V1, mais les données continuent d'emprunter le CPU et le bus PCIe, une limitation structurelle que GDS supprime à la racine. AWS introduit simultanément TurboQuant, une technique de mise en cache KV qui permet d'augmenter significativement la taille des fenêtres de contexte disponibles sur ces instances. Ces deux avancées combinées positionnent AWS comme un acteur offensif sur le marché de l'infrastructure d'inférence, face à des concurrents comme Google Cloud et Azure qui développent leurs propres accélérateurs et solutions de stockage haute performance pour répondre aux mêmes contraintes.

UELes entreprises européennes déployant des LLMs à grande échelle sur AWS pourront réduire significativement leurs coûts d'infrastructure liés aux GPU inactifs au démarrage, avec un impact direct sur la compétitivité des services d'inférence en Europe.

InfrastructureOpinion
1 source
Le prochain chip IA d'Intel sera moins cher et moins énergivore que ceux de Nvidia et AMD
Illustration générée par IA
50Ars Technica AI 

Le prochain chip IA d'Intel sera moins cher et moins énergivore que ceux de Nvidia et AMD

Intel prévoit de commercialiser d'ici la fin 2026 un nouveau processeur d'IA baptisé "Crescent Island", conçu pour concurrencer directement les puces de Nvidia et AMD sur le marché de l'inférence. Kevork Kechichian, directeur du groupe data center d'Intel, a confié au Financial Times que l'entreprise repart "des bases" en proposant un GPU utilisant une mémoire et un système de refroidissement moins coûteux que ceux des solutions rivales. L'objectif affiché est de capitaliser sur le redressement en cours du fabricant américain de semi-conducteurs. "Crescent Island" se concentre sur l'inférence, soit la phase où un utilisateur soumet une requête à un modèle d'IA déjà entraîné, plutôt que sur l'entraînement lui-même, segment encore verrouillé par Nvidia. En misant sur des composants moins onéreux, Intel cherche à proposer une alternative économiquement attractive aux centres de données et aux entreprises qui déploient massivement des services d'IA, sans recourir aux puces haut de gamme H100 ou Blackwell de Nvidia. Un positionnement prix agressif pourrait ouvrir une brèche réelle dans un marché aujourd'hui très concentré. Intel sort d'une période de profonde restructuration, marquée par des retards technologiques et une pression financière intense qui ont fragilisé sa position face à Nvidia et TSMC. Sur le segment de l'inférence, Nvidia détient une part de marché estimée à plus de 80 %, tandis qu'AMD tente de s'y imposer avec ses puces MI300X. Cibler ce créneau avec une offre plus accessible représente pour Intel un pari stratégique cohérent, mais le succès dépendra de la disponibilité réelle des puces et de leur adoption par les grands opérateurs cloud d'ici la fin de l'année.

UELes centres de données et entreprises européens déployant des services d'IA pourraient bénéficier d'une alternative moins coûteuse aux puces Nvidia pour l'inférence d'ici fin 2026.

InfrastructureOpinion
1 source

Suivre Blackwell en continu

Recevez chaque jour les articles essentiels du sujet. Pas de bruit, pas de spam.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic