Aller au contenu principal

Infrastructure

50 sur 440 articles

Infrastructure IA : data centers, puces GPU/TPU, cloud computing, énergie et hardware.

Token-maxxing, c'est fini : place à la mémoire agentique
1VentureBeat AI InfrastructureActu

Token-maxxing, c'est fini : place à la mémoire agentique

Au premier semestre 2026, une tendance qui avait dominé le développement d'agents IA en début d'année s'est brutalement effondrée : le "token-maxxing", cette pratique consistant à mesurer la performance d'un agent par le volume de tokens consommés. Cet indicateur, devenu une métrique de vanité dans de nombreuses équipes, a rapidement été abandonné car il mesurait l'activité plutôt que les résultats réels. Ce constat s'appuie sur plus de 100 conversations menées avec des clients d'entreprise dans 15 villes réparties dans six pays durant les six premiers mois de 2026, selon un article publié par MongoDB. Ces échanges convergent vers une même conclusion : la fenêtre de contexte des modèles est devenue la ressource la plus rare, et le défi n'est plus d'y injecter un maximum d'informations mais de sélectionner précisément ce qui doit y figurer. La réponse identifiée par ces entreprises est la mise en place de systèmes de mémoire persistante et interrogeable, distincts du modèle lui-même, capables d'alimenter les agents de façon ciblée. Cette évolution transforme en profondeur l'économie des agents IA en entreprise. Un système de mémoire performant remplit trois fonctions que la fenêtre de contexte seule ne peut assurer : conserver les résultats produits par le modèle lors des sessions précédentes pour ne pas perdre le raisonnement déjà "payé", appliquer un contrôle d'accès basé sur les rôles pour partager ces contenus sans risque de fuite entre équipes, et permettre une recherche sémantique plutôt qu'une simple correspondance exacte, puisque les agents formulent leurs requêtes par sens et non par mot-clé. Concrètement, l'architecture qui se généralise combine cette mémoire à un modèle plus léger, souvent open-weight, chargé de juger si une réponse déjà stockée suffit. Si oui, elle est renvoyée sans jamais solliciter le modèle génératif coûteux ; si non, ce dernier est appelé, produit une réponse originale qui est ensuite sauvegardée dans la mémoire pour les requêtes futures. Chaque réponse coûteuse générée une fois devient ainsi une réponse bon marché la fois suivante, rendant le système plus rapide et moins onéreux à mesure qu'il est utilisé. Cette bascule s'inscrit dans un déséquilibre de maturité : l'industrie des bases de données existe depuis environ 60 ans, tandis que les agents IA au sens actuel du terme n'existent que depuis environ 18 mois, ce qui explique l'absence, à ce stade, d'un équivalent du "LAMP stack" pour les architectures agentiques, c'est à dire d'un ensemble de choix techniques standard et éprouvés. Six décennies ont été consacrées à perfectionner le stockage et la récupération de données structurées par critères exacts ; la mémoire agentique exige désormais une capacité nouvelle, celle de stocker la sortie non structurée d'un processus génératif et de la retrouver par similarité sémantique. Selon l'analyse, les équipes les mieux positionnées sont celles dont la plateforme de données intègre nativement la recherche sémantique, le contrôle d'accès et le stockage du contenu généré en un seul système, plutôt que d'assembler plusieurs outils séparés. MongoDB, à l'origine de cette publication, se positionne ainsi comme un acteur clé de cette convergence entre bases de données et mémoire agentique, un terrain que de plus en plus d'entreprises devraient explorer à mesure que les coûts des modèles génératifs deviennent un enjeu stratégique majeur.

1 source
Microsoft montre des premiers résultats avec ses puces IA maison, après un démarrage lent
2The Information AI 

Microsoft montre des premiers résultats avec ses puces IA maison, après un démarrage lent

Microsoft prévoit d'augmenter significativement en 2027 la production de sa nouvelle puce d'intelligence artificielle Maia 300, selon deux sources proches du dossier. L'entreprise a engagé des discussions avec le fabricant taïwanais TSMC pour sécuriser une capacité de fabrication portant sur plus de 300 000 puces, un volume dix fois supérieur aux dizaines de milliers d'exemplaires produits jusqu'ici pour la génération précédente, la Maia 200. Microsoft compte dévoiler publiquement la Maia 300 cet automne, potentiellement dès le mois prochain. L'objectif affiché est de convaincre de grands clients du cloud, comme Anthropic, d'adopter ces puces maison malgré l'adoption limitée de la Maia 200 jusqu'à présent. Cette montée en puissance illustre la volonté de Microsoft de réduire sa dépendance aux puces Nvidia, qui dominent encore largement l'entraînement et l'exécution des modèles d'IA dans ses centres de données Azure. Si l'entreprise parvient à faire adopter ses propres processeurs par des clients externes majeurs comme Anthropic, elle réaliserait des économies substantielles sur les coûts d'infrastructure tout en gagnant en indépendance stratégique face aux fournisseurs de semi-conducteurs. Pour l'industrie du cloud dans son ensemble, cela renforcerait une tendance déjà engagée par Google et Amazon, qui développent également leurs propres puces IA pour limiter leur exposition à la pénurie et aux prix élevés pratiqués par Nvidia. Ce pari s'inscrit dans une course plus large entre géants technologiques pour maîtriser toute la chaîne de valeur de l'IA, du silicium aux modèles. Microsoft investit massivement dans Anthropic, ce qui rend d'autant plus stratégique la capacité à convaincre cette dernière d'utiliser ses puces plutôt que celles de Nvidia. Le recours à TSMC pour la fabrication souligne aussi la centralité persistante du fondeur taïwanais dans l'écosystème mondial des semi-conducteurs avancés, malgré les tensions géopolitiques entourant Taïwan. La réussite de ce plan dépendra largement des performances réelles de la Maia 300 face aux puces Nvidia et de la capacité de Microsoft à tenir ses délais de livraison pour 2027.

UEUne concurrence accrue sur les puces IA pourrait a terme influencer les couts du cloud pour les entreprises europeennes, mais sans impact direct immediat sur la France ou l'UE.

💬 Microsoft passe de quelques dizaines de milliers de puces Maia à un carnet de commandes de 300 000 unités chez TSMC, c'est un changement d'échelle, pas un ajustement. Sur le papier, l'enjeu c'est de faire adopter la Maia 300 par Anthropic elle-même, une boîte dans laquelle Microsoft a injecté des milliards : si son propre poulain choisit encore Nvidia plutôt que le silicium maison, ça dira tout sur l'écart de performance réel. Et tant que TSMC reste le seul à savoir graver ça, la vraie dépendance de l'industrie n'est pas à Nvidia, elle est à Taïwan.

InfrastructureActu
1 source
Firebird lance la plus grande "AI factory" de la région CEI en Arménie
3NVIDIA AI Blog 

Firebird lance la plus grande "AI factory" de la région CEI en Arménie

Firebird, une plateforme cloud d'intelligence artificielle en pleine expansion, a inauguré ce jour à Hrazdan, en Arménie, la plus grande usine d'IA de la région CEI (Communauté des États indépendants). L'infrastructure repose sur le calcul accéléré de NVIDIA et les serveurs Dell PowerEdge de Dell Technologies, construits sur la plateforme NVIDIA DSX qui intègre calcul, réseau, alimentation et refroidissement en un système co-conçu. La cérémonie d'ouverture a réuni le Premier ministre arménien Nikol Pashinyan, le vice-Premier ministre kazakh Zhaslan Madiyev, ainsi que David Allen, chargé d'affaires par intérim des États-Unis en Arménie. Firebird prévoit de déployer plus de 70 000 GPU NVIDIA Rubin et Blackwell ainsi que 300 mégawatts de capacité d'ici fin 2027. Schneider Electric a fourni l'infrastructure électrique du site, comprenant des cellules de commutation moyenne et basse tension ainsi que des onduleurs triphasés, tandis que Vertiv a assuré le refroidissement grâce à une architecture à eau glacée combinée à sa technologie TrimCooler et à son système de gestion centralisée iCOM CWM. L'ensemble du chantier a été livré en un peu plus de six mois. Cette installation illustre la course mondiale à la souveraineté numérique en matière d'IA. Plutôt que de dépendre exclusivement de capacités de calcul situées à l'étranger, l'Arménie dispose désormais d'une infrastructure locale permettant à ses développeurs, startups, entreprises, universités et institutions publiques d'entraîner et de déployer des modèles adaptés à leur langue, à leurs industries et à leurs priorités nationales. Grâce à la plateforme DSX, le site peut faire tourner jusqu'à 40 % de GPU supplémentaires sur une même surface, ce qui améliore le rendement énergétique et la rentabilité par mégawatt, un enjeu central à mesure que la demande en puissance de calcul explose. Perplexity, la société d'IA connue pour son moteur de réponse conversationnel, fait déjà partie des premiers clients à s'appuyer sur cette infrastructure pour sa plateforme d'agents IA. Cette ouverture s'inscrit dans une stratégie plus large de Firebird, qui vise un déploiement d'environ 2 gigawatts de capacité d'IA répartie entre l'Arménie, le Kazakhstan et d'autres marchés émergents. L'entreprise a également annoncé que NVIDIA prévoit d'investir directement dans son capital, après un premier investissement réalisé cette année par CoreWeave. Ces soutiens financiers doivent permettre à Firebird d'étendre son empreinte mondiale et de construire certains des clusters de calcul les plus avancés dans des marchés dits frontières, positionnant ainsi la région CEI comme un pôle d'attraction pour les grandes entreprises technologiques internationales tout en dynamisant l'écosystème local de recherche et d'innovation en intelligence artificielle.

UESchneider Electric, entreprise française, a fourni l'infrastructure électrique du site, ce qui illustre l'implication d'un acteur industriel européen dans la course mondiale aux data centers IA, mais sans impact réglementaire ou territorial direct sur la France ou l'UE.

💬 Firebird qui livre un chantier pareil en six mois, avec Schneider et Vertiv dans la boucle, ça montre que la course à l'IA se joue aussi hors des zones habituelles (US, Golfe, Chine). L'Arménie et le Kazakhstan qui misent sur 2 GW de capacité, c'est un signal clair : la souveraineté IA n'est plus réservée aux pays riches, elle devient une stratégie d'attraction de capitaux pour les marchés dits frontières. Reste que 70 000 GPU Rubin et Blackwell d'ici 2027, faut voir si la demande locale (startups, universités) suit le rythme, ou si c'est surtout du calcul loué à l'étranger qui transite par là.

InfrastructureActu
1 source
L'utilisation d'agents IA consomme environ 600 fois plus d'energie qu'une simple requete de chat
4The Decoder 

L'utilisation d'agents IA consomme environ 600 fois plus d'energie qu'une simple requete de chat

L'astrophysicien et climatologue Zeke Hausfather a mesuré sa propre consommation d'énergie liée à l'utilisation de Claude Code, l'agent de codage d'Anthropic, sur une période de huit semaines. Il a traité 3,2 milliards de tokens, pour une consommation totale d'environ 170 kilowattheures d'électricité en centre de données. Ramené à l'échelle d'une seule requête, ce chiffre représente environ 600 fois plus d'énergie qu'un prompt classique adressé à un chatbot conversationnel standard. Cette mesure directe contraste fortement avec les estimations habituellement communiquées par les grandes entreprises du secteur, comme Google et OpenAI. Cet écart révèle à quel point les chiffres officiels, souvent cités pour rassurer sur l'empreinte environnementale de l'intelligence artificielle, ne reflètent pas la réalité des usages les plus intensifs. Les agents IA autonomes, capables d'exécuter des tâches complexes en enchaînant de nombreuses étapes de raisonnement et d'action sans intervention humaine constante, consomment nettement plus de ressources qu'une simple conversation. Pour les entreprises technologiques, les régulateurs et les opérateurs de centres de données, cela signifie que les projections de consommation électrique liées à l'IA doivent être révisées à la hausse, à mesure que ces agents remplacent progressivement les usages conversationnels plus légers. Cette découverte s'inscrit dans un débat plus large sur la transparence énergétique de l'industrie de l'IA, où les entreprises communiquent rarement des données détaillées sur la consommation réelle de leurs modèles en production. Les chiffres avancés par Google ou OpenAI portent généralement sur des requêtes simples et ponctuelles, un cas d'usage de moins en moins représentatif à mesure que les agents autonomes se généralisent dans le développement logiciel et d'autres secteurs. Face à la multiplication de ces outils et à la pression croissante sur les infrastructures électriques, la question de mesures indépendantes et standardisées de la consommation énergétique des systèmes d'IA agentiques devient un enjeu central pour anticiper leur impact sur le réseau électrique et le climat.

💬 Sur le papier, 600x plus d'énergie qu'un simple prompt, ça fait peur. En vrai, ça mesure juste ce qu'on savait déjà en creux : un agent qui enchaîne des dizaines d'appels pour coder tout seul, ce n'est pas une conversation, c'est un petit centre de calcul à lui seul. La vraie info, c'est que les chiffres officiels de Google ou OpenAI parlent d'un usage qui devient minoritaire, alors les projections d'électricité liées à l'IA sont probablement sous-estimées d'un bon facteur à mesure que les agents remplacent le chatbot classique.

InfrastructurePaper
1 source
AMD rachète Taalas, une start-up qui intègre les modèles d'IA directement dans le silicium
5The Decoder 

AMD rachète Taalas, une start-up qui intègre les modèles d'IA directement dans le silicium

AMD a annoncé le rachat de Taalas, une startup canadienne spécialisée dans une approche radicalement différente de l'inférence des modèles d'intelligence artificielle. La technologie de Taalas consiste à graver directement les poids d'un modèle dans le silicium de la puce, plutôt que de faire tourner un modèle générique sur du matériel polyvalent. Résultat: une puce de démonstration a atteint plus de 16 000 tokens par seconde et par utilisateur en faisant tourner Llama 3.1-8B, une performance largement supérieure aux standards actuels de l'industrie. Le revers de la médaille est que chaque puce reste figée sur un seul modèle, sans possibilité de mise à jour ou de changement ultérieur. Cette acquisition illustre une tendance de fond dans l'industrie des semi-conducteurs pour l'IA: la recherche de vitesse d'inférence extrême quitte le terrain du logiciel pour se déplacer vers le matériel lui-même. Pour les entreprises qui déploient des modèles à très grande échelle, une latence divisée et un débit multiplié changent directement l'économie du service, que ce soit pour des assistants conversationnels, des agents autonomes ou des applications temps réel. Mais ce gain de vitesse a un coût structurel: figer un modèle dans le silicium signifie renoncer à la flexibilité qu'offrent les puces génériques, un compromis qui ne conviendra qu'à des cas d'usage où le modèle change rarement. Cette approche n'est pas isolée: Google travaillerait de son côté sur une méthode similaire pour ses modèles Gemini, signe que plusieurs grands acteurs explorent en parallèle cette voie du matériel spécialisé par modèle. Pour AMD, qui cherche à rattraper son retard face à Nvidia sur le marché des puces IA, l'intégration des équipes et brevets de Taalas pourrait devenir un axe de différenciation important. L'enjeu plus large est de savoir si cette spécialisation extrême deviendra un segment de marché à part entière, réservé aux déploiements massifs de modèles stables, aux côtés des puces génériques plus flexibles.

UEAucune entreprise française ou européenne n'est impliquée, mais cette évolution de l'architecture des puces IA pourrait à terme influencer les choix d'infrastructure des acteurs européens déployant des modèles à grande échelle.

💬 Sur le papier, 16 000 tokens par seconde et par utilisateur, c'est du délire, et ça pose une question simple : est-ce que la vitesse d'inférence devient un enjeu de gravure plutôt que de code ? Le hic, c'est que graver un modèle dans le silicium veut dire qu'on ne peut plus le mettre à jour, donc ce pari ne marche que pour des modèles figés à très grande échelle, pas pour la moyenne des boîtes qui changent de modèle tous les six mois. AMD rachète surtout une option sur ce segment naissant, et le fait que Google explore la même piste en parallèle sur Gemini montre que ce n'est pas un pari isolé.

InfrastructureOpinion
1 source
L’IA qui s’optimise elle-même : décryptage du pari technologique à 100 millions de dollars de Mirendil
6Le Big Data 

L’IA qui s’optimise elle-même : décryptage du pari technologique à 100 millions de dollars de Mirendil

Le laboratoire d'intelligence artificielle Mirendil, fondé par d'anciens cadres d'Anthropic et de Google DeepMind, a annoncé le 6 août 2026 un partenariat pluriannuel avec Google Cloud portant sur plus de 100 millions de dollars. L'accord s'appuie sur l'AI Hypercomputer de Google, une architecture hybride combinant les puces TPU v5p et des processeurs NVIDIA haute performance, pour entraîner et faire fonctionner les modèles de la startup. Dirigée par les cofondateurs Behnam Neyshabur et Harsh Mehta, Mirendil a été valorisée à un milliard de dollars lors d'un tour de table initial d'environ 200 millions de dollars mené par les fonds Andreessen Horowitz (a16z) et Kleiner Perkins. La jeune entreprise consacre la moitié de cette trésorerie à la réservation de puissance de calcul, avant même d'avoir commercialisé le moindre produit. Amin Vahdat, directeur technique de l'infrastructure chez Google, a souligné que la performance dépend désormais de l'orchestration de systèmes complets plutôt que de la seule puissance brute d'un composant. Cet investissement massif traduit un pari sur une nouvelle génération d'IA dite auto-améliorante, capable d'automatiser l'ensemble de la boucle de recherche en apprentissage automatique. Le système formule ses propres hypothèses scientifiques, conçoit les expérimentations, évalue les résultats et ajuste ses architectures de façon itérative, sans supervision humaine constante. Pour les responsables techniques et data des grandes entreprises, cela ouvre la perspective d'automatiser des tâches jusqu'ici réservées aux chercheurs seniors, comme le réglage des hyperparamètres, le débogage de pipelines ou l'exploration de nouvelles architectures post-Transformer. Mirendil affirme viser plus large que l'ingénierie logicielle, en appliquant l'apprentissage par renforcement à grande échelle à des disciplines comme la biophysique, la découverte de médicaments ou la science des matériaux, avec l'ambition de faire passer certains cycles de recherche de plusieurs mois à quelques heures. Pour Google, ce contrat illustre aussi une évolution du modèle économique des géants du cloud, qui ne se contentent plus de vendre de la puissance de calcul brute mais co-développent désormais des plans d'infrastructure avec leurs clients IA les plus stratégiques. Ce pari s'inscrit dans une course plus large des laboratoires d'IA à automatiser leur propre recherche, un objectif également poursuivi par OpenAI, Anthropic ou DeepMind à travers leurs outils d'assistance au codage et à l'expérimentation. Jusqu'à présent, ces progrès reposaient sur des assistants supervisés par des ingénieurs humains ; Mirendil cherche à franchir une étape supplémentaire avec un système capable d'auto-amélioration récursive, en s'attaquant directement à la lenteur du cycle de test et de validation des hypothèses par les chercheurs. L'ampleur de l'engagement financier, la moitié du capital levé consacrée à l'infrastructure avant tout revenu commercial, reflète la conviction des investisseurs que la puissance de calcul disponible dès le départ conditionnera la capacité de la startup à tenir ses promesses. Reste à voir si cette automatisation de la recherche scientifique tiendra ses promesses à l'échelle industrielle, notamment dans des domaines aussi réglementés que la découverte de médicaments, et comment Google, NVIDIA et les autres fournisseurs d'infrastructure adapteront leurs offres à mesure que ces charges de travail hybrides et récursives se généraliseront.

💬 Mirendil, c'est le signal le plus clair qu'on ait eu que la course à l'IA change de nature : on ne finance plus un produit, on finance une boucle de recherche qui doit tourner toute seule. Cinquante millions engagés sur du calcul avant la moindre ligne de revenu, ça vaut moins pour ce que ça promet que pour ce que ça révèle : les investisseurs parient que la puissance brute achetée aujourd'hui vaut plus que n'importe quelle roadmap produit. Reste à voir si l'auto-amélioration récursive tient sa promesse ailleurs que sur un slide, surtout en pharma où le cycle de validation n'a jamais été le goulot d'étranglement technique.

InfrastructureOpinion
1 source
AMD rachète Taalas
7Latent Space 

AMD rachète Taalas

AMD a annoncé le rachat de Taalas, une entreprise spécialisée dans les puces ASIC dédiées à l'inférence de modèles de langage, validant les prédictions formulées ces derniers mois sur la percée des semi-conducteurs sur mesure pour l'IA. L'opération, portée par la directrice générale Lisa Su, a été rendue publique les 5 et 6 août 2026. Le même jour, Meta a présenté les performances de son modèle Muse Spark 1.2, entré directement dans le top 5 du classement Vals Index à 0,69 dollar par test, soit trois fois moins cher que Kimi et plus de dix fois moins cher que Fable, Opus ou GPT 5.6 Sol. Il est aussi devenu le premier modèle à dépasser 60% sur l'évaluation Finance Agent v2, pour 0,77 dollar par test contre 5,12 dollars pour Opus 5, le précédent leader, avec une vitesse double. Meta revendique par ailleurs des résultats de niveau médaille d'or dans cinq olympiades scientifiques de physique, mathématiques et chimie, sans recours à des outils externes. De son côté, OpenAI a fusionné ses modes "instantané" et "raisonnement" en un seul modèle, GPT 5.6 Sol, désormais commun aux abonnés Plus et Pro de ChatGPT, avec 68% d'erreurs factuelles en moins que GPT 5.5 Instant sur des tests en finance, médecine et droit, et a ouvert l'accès illimité à GPT 5.6 Luna pour les utilisateurs gratuits à partir du 7 août. Ce triple mouvement illustre un basculement du marché de l'IA vers l'efficacité économique autant que la performance brute. Pour AMD, l'acquisition de Taalas lui permet de concurrencer Nvidia sur le terrain des puces spécialisées, potentiellement moins chères et plus rapides que les GPU génériques pour l'inférence. Pour Meta, la combinaison d'un modèle bon marché et de résultats scientifiques de haut niveau, obtenus grâce à une orchestration multi-agents plutôt qu'à la seule taille du modèle, relance le débat sur ce qui détermine vraiment la qualité perçue d'une IA, le modèle seul ou le système qui l'entoure. Pour OpenAI, unifier ses modes de conversation et élargir l'accès gratuit vise à retenir des utilisateurs face à une concurrence de plus en plus agressive sur les prix, un choix confirmé par ARC Prize qui a mesuré des scores inchangés pour GPT 5.6 Luna malgré une baisse de tarif de 80%. Cette accélération s'inscrit dans une course où Google, OpenAI et Meta rivalisent désormais autant sur le coût par requête que sur les scores bruts, un critère validé par des évaluateurs indépendants comme Vals Index, Artificial Analysis et ARC Prize. OpenAI a aussi lancé Agent Plugins, un standard ouvert coconçu avec AWS, Cursor, GitHub et Vercel pour uniformiser les compétences d'agents et les configurations de serveurs MCP, ainsi qu'un outil de revue de sécurité automatisée pour les pull requests GitHub baptisé Codex Security Review, encore en préversion. Ces annonces simultanées traduisent une pression concurrentielle intense entre laboratoires, où chaque acteur cherche à conjuguer puissance de calcul propriétaire, modèles moins coûteux et outillage pour développeurs, alors que la génération suivante de modèles, dont un "Watermelon" plus massif chez Meta, est déjà attendue.

💬 Basculement net vers l'inférence à bas coût, pas juste vers plus de puissance. AMD qui rachète Taalas pour attaquer Nvidia sur le terrain des ASIC, Meta qui sort un modèle trois fois moins cher que Kimi et dix fois moins cher que GPT 5.6 Sol tout en battant Opus 5 sur l'agent financier, ça dit la même chose : le prix par requête est devenu le vrai terrain de bataille, pas juste le score sur un benchmark. Et le détail qui compte vraiment, c'est que Meta y arrive avec de l'orchestration multi-agents plutôt qu'un modèle plus gros, donc la course à la taille est en train de perdre de son sens face à la course au système bien conçu.

InfrastructureActu
1 source
Anthropic va concevoir son propre matériel pour faire fonctionner Claude
8Ars Technica AI 

Anthropic va concevoir son propre matériel pour faire fonctionner Claude

Anthropic recrute une équipe dédiée à la conception de puces sur mesure pour faire fonctionner ses modèles Claude, a révélé l'entreprise cette semaine. Business Insider a repéré une offre d'emploi visant un ingénieur senior justifiant d'une expérience dans la production de designs de semi-conducteurs. Le site carrières d'Anthropic affiche actuellement plusieurs postes liés à ce projet, dont un poste d'ingénieur silicium et un poste de responsable de programme technique spécialisé silicium. Un porte-parole de l'entreprise a confirmé ces intentions aussi bien à Business Insider qu'à TechCrunch, sans détailler pour l'instant le calendrier ni l'ampleur des investissements prévus. Cette annonce marque une étape importante pour Anthropic, jusqu'ici entièrement dépendante de fournisseurs externes comme Nvidia et de partenaires cloud tels qu'Amazon et Google pour la puissance de calcul nécessaire à l'entraînement et à l'exécution de ses modèles. Concevoir ses propres puces permettrait à l'entreprise de réduire ses coûts d'inférence, d'optimiser le matériel spécifiquement pour l'architecture de Claude, et de gagner en indépendance vis à vis des géants des semi-conducteurs, dans un contexte de pénurie et de forte demande mondiale en composants dédiés à l'intelligence artificielle. Cette démarche rapproche Anthropic d'autres grands noms du secteur qui ont déjà emprunté cette voie: Google développe ses puces TPU depuis plusieurs années, Amazon mise sur ses processeurs Trainium et Inferentia, Microsoft a lancé sa puce Maia, et OpenAI travaille avec Broadcom sur ses propres accélérateurs. Face à des besoins en calcul toujours croissants et à des coûts d'infrastructure considérables, la maîtrise du matériel devient un enjeu stratégique majeur pour les entreprises d'IA générative les plus avancées.

Configurez des limites de débit pour le trafic IA sur la passerelle AgentCore
9AWS ML Blog 

Configurez des limites de débit pour le trafic IA sur la passerelle AgentCore

Amazon a annoncé le support de la limitation de débit sur AgentCore gateway, la passerelle IA entièrement gérée et sans serveur d'Amazon Bedrock. Cette passerelle sert de point d'entrée unique et sécurisé pour le trafic IA, qu'il s'agisse de recherche web gérée, de bases de connaissances, de serveurs MCP, de modèles d'inférence ou d'agents. La nouvelle fonctionnalité permet de définir des règles basées sur OAuth ou IAM pour contrôler, par utilisateur, les requêtes par minute, les connexions simultanées et le débit de tokens. Trois types de cibles sont pris en charge : les cibles MCP, les cibles d'inférence et les cibles HTTP passthrough. Trois métriques sont disponibles. Les requêtes par seconde ou par minute s'appliquent à tous les types de cibles, chaque requête comptant pour une unité quelle que soit sa durée d'exécution. Les tokens par minute, réservés aux cibles d'inférence, comptabilisent à la fois les tokens d'entrée et de sortie : la passerelle estime d'abord la consommation via un tokenizer générique avant l'appel, puis ajuste le compte une fois la réponse réelle du modèle reçue. Les connexions par seconde, applicables à tous les types de cibles, mesurent la durée d'occupation d'une connexion plutôt que le nombre de requêtes, une session de streaming de 100 secondes bloquant un emplacement pendant toute sa durée. Cette fonctionnalité permet aux entreprises qui déploient des agents IA à grande échelle de protéger leurs services en aval contre les pics de trafic, tout en différenciant l'accès selon les profils d'utilisateurs. Amazon illustre le cas d'usage avec trois groupes, Basic, Advanced et Beta, gérés via AgentCore Identity, qui authentifie les utilisateurs par jetons JWT avec Microsoft Entra ID comme fournisseur d'identité et sert aussi de service de distribution de jetons pour les cibles sortantes. Le contrôle d'accès basé sur les rôles, appliqué via les politiques d'Amazon Bedrock AgentCore, restreint l'accès de chaque groupe à des cibles et modèles spécifiques. Les utilisateurs Basic reçoivent des limites plus strictes que les utilisateurs Advanced, tandis que les utilisateurs Beta bénéficient de seuils élevés sur des modèles restreints, ce qui permet à une organisation de tester leurs performances avant un déploiement plus large. Concrètement, cela offre une meilleure maîtrise des coûts d'inférence, une disponibilité garantie des services critiques en cas de forte demande, et la possibilité de piloter des déploiements progressifs de nouveaux modèles sans saturer l'infrastructure. Cette annonce s'inscrit dans la montée en puissance des architectures d'agents IA en entreprise, où la gestion fine du trafic devient critique à mesure que les organisations multiplient les intégrations vers des LLM, des bases de connaissances et des outils tiers via le protocole MCP. La configuration d'une limite de débit repose sur deux éléments : les clés de dimension, qui définissent comment le trafic entrant est réparti en compartiments, et les entrées, qui fixent le débit autorisé pour chaque compartiment. Amazon détaille la mise en place de ces règles via l'interface en ligne de commande AWS. En combinant identité, politique d'accès et limitation de débit dans une seule passerelle managée, AWS cherche à simplifier la gouvernance des déploiements d'agents IA à grande échelle, un terrain sur lequel Google Cloud et Microsoft Azure investissent également face à la demande croissante des entreprises pour des infrastructures d'IA générative mieux contrôlées et sécurisées.

InfrastructureActu
1 source
34 lauréats des Amazon Research Awards annoncés pour des projets sur Trainium
10Amazon Science 

34 lauréats des Amazon Research Awards annoncés pour des projets sur Trainium

Cette annonce n'est pas liée au code du projet Le Fil IA, je réponds directement à la demande de traduction/résumé. Amazon Web Services a dévoilé les lauréats de son programme Build on Trainium, doté de 110 millions de dollars, destiné à financer la recherche en intelligence artificielle et l'enseignement universitaire sur les puces AWS Trainium. Cette vague concerne les bourses de l'appel à projets automne 2025 consacré à l'IA responsable, avec 34 équipes retenues parmi des universités du monde entier. Les propositions ont été jugées sur la qualité scientifique et leur potentiel d'impact pour la recherche et la société, autour de cinq axes prioritaires : la sécurité et l'alignement de l'IA, les modèles de langage multilingues, l'ingénierie de la représentation, la durabilité appliquée aux petits modèles de langage, et l'apprentissage profond pour la génération de données synthétiques. À l'université de l'Illinois à Urbana-Champaign, une équipe étudie des stratégies de parallélisation tenant compte de la topologie pour des modèles à mélange d'experts pouvant atteindre 1 000 milliards de paramètres, déployés sur jusqu'à 1 024 puces Trainium. À l'université de Washington, un autre groupe conçoit un cadre d'optimisation de l'inférence pour améliorer l'efficacité par token sur cette infrastructure. Parmi les autres lauréats figurent des chercheurs de l'université de Sydney, de Georgia Tech, de l'University College de Londres, de l'UCLA, de l'Imperial College de Londres, de l'université de Californie à San Diego ou encore de l'université chinoise de Hong Kong, avec des projets allant de la détection de contenus frauduleux multimodaux à la génération différentiellement privée de données synthétiques, en passant par le débiaisage de la génération d'images. Ce programme illustre la stratégie d'Amazon pour ancrer ses puces Trainium, alternative maison aux GPU Nvidia, dans l'écosystème académique mondial avant même qu'elles ne dominent le marché commercial. En offrant un accès gratuit à du calcul massif à grande échelle, jusqu'à plus d'un millier de puces pour certains projets, AWS lève l'un des principaux obstacles à la recherche en IA de pointe : le coût prohibitif de l'entraînement de modèles géants. Pour les laboratoires universitaires, souvent distancés par les moyens des grandes entreprises technologiques, cet accès change la donne et peut orienter durablement leurs choix d'infrastructure future. Pour Amazon, chaque publication scientifique issue de Trainium constitue aussi une validation technique et une preuve de crédibilité face à la concurrence. Ce cycle centré sur l'IA responsable s'inscrit dans un contexte où la pression réglementaire et sociétale autour de la sécurité, du biais et de la confidentialité des modèles d'IA s'intensifie. Les lauréats bénéficient, au-delà des crédits de calcul, d'un accès à plus de 700 jeux de données publics d'Amazon, à des crédits promotionnels AWS, à un contact recherche dédié chez Amazon et à des ressources de formation sur Trainium. Selon Yida Wang, scientifique principal appliqué chez AWS, l'objectif est que seule l'imagination des chercheurs limite leurs travaux, non leur budget de calcul. D'autres cycles de financement, portant sur d'autres priorités de recherche, devraient suivre dans les prochains mois.

UEAucun laboratoire français ne figure parmi les lauréats, mais deux universités britanniques (UCL, Imperial College) en bénéficient, illustrant l'influence croissante des programmes Amazon dans la recherche académique européenne.

💬 Amazon finance la recherche universitaire sur Trainium avant même que la puce s'impose commercialement, et c'est plus malin que généreux : chaque publication scientifique vaut une preuve de crédibilité face à Nvidia. Sur le papier, l'accès gratuit à plus de mille puces change la donne pour des labos qui n'ont jamais les moyens de rivaliser avec les GAFAM. Mais aucun labo français dans les 34 lauréats, alors que Londres en place deux, ça en dit long sur qui capte vraiment ces opportunités.

InfrastructureActu
1 source
SpaceX viserait plus de deux millions de GPU Nvidia Rubin pour ses objectifs de calcul
11The Decoder 

SpaceX viserait plus de deux millions de GPU Nvidia Rubin pour ses objectifs de calcul

SpaceX prévoit de multiplier par plus de cinq sa capacité de calcul d'ici fin 2027, en misant exclusivement sur la nouvelle plateforme Vera Rubin de Nvidia. Cette expansion pourrait nécessiter plus d'un million de nouveaux processeurs graphiques, certaines estimations évoquant même un total dépassant les deux millions d'unités Rubin déployées à terme. Dans le même temps, l'entreprise d'Elon Musk a dévoilé des résultats financiers pour son segment intelligence artificielle : 2,56 milliards de dollars de revenus au deuxième trimestre, générés principalement par la location de sa propre capacité serveur à des clients tiers, plutôt que par ses activités spatiales historiques. Cette annonce illustre un tournant stratégique majeur pour SpaceX, qui ne se contente plus de lancer des fusées et d'exploiter Starlink mais se positionne désormais comme un acteur à part entière de l'infrastructure de calcul pour l'IA. Pour Nvidia, un tel engagement représente une commande potentielle colossale qui confirme la demande insatiable pour ses puces les plus avancées, dans un marché où la disponibilité des GPU reste le principal goulot d'étranglement pour les entreprises d'intelligence artificielle. La diversification des revenus de SpaceX vers le cloud computing pourrait aussi rebattre les cartes face aux géants traditionnels du secteur comme Amazon, Microsoft ou Google. Cette course aux capacités de calcul s'inscrit dans une compétition plus large entre grandes entreprises technologiques, toutes engagées dans une surenchère d'investissements en infrastructure IA. Vera Rubin, la plateforme de nouvelle génération de Nvidia qui doit succéder à Blackwell, est présentée comme la clé de voûte de cette montée en puissance. Reste à savoir si les capacités de production de Nvidia et de ses partenaires pourront suivre le rythme des ambitions affichées par SpaceX, alors que Musk multiplie par ailleurs les projets gourmands en calcul avec xAI et Tesla.

UELa tension accrue sur la disponibilité mondiale des GPU Nvidia pourrait indirectement compliquer l'accès des entreprises et laboratoires europeens a cette infrastructure critique.

💬 Le vrai chiffre, c'est pas les deux millions de GPU visés, c'est que SpaceX gagne déjà plus avec la location de calcul qu'avec ses fusées, 2,56 milliards de revenus IA rien qu'au deuxième trimestre. Musk est en train de transformer sa boîte spatiale en loueur de datacenters, et ça dit tout de la ruée actuelle sur le calcul IA. Reste à voir si Nvidia peut produire assez de Rubin pour suivre, parce que la pénurie de GPU n'est pas près de se calmer.

InfrastructureActu
1 source
Claude ne répond plus : l’IA d’Anthropic est inaccessible pour de nombreux utilisateurs
12Le Big Data 

Claude ne répond plus : l’IA d’Anthropic est inaccessible pour de nombreux utilisateurs

Ce mercredi 5 août 2026, de nombreux utilisateurs de Claude, l'assistant conversationnel développé par Anthropic, se sont retrouvés dans l'impossibilité d'obtenir une réponse. En fin de matinée, les signalements ont commencé à affluer sur DownDetector, avec une hausse rapide du nombre d'incidents rapportés. Les utilisateurs décrivaient des messages d'erreur, des requêtes restées sans réponse ou des temps de chargement anormalement longs. Sur les réseaux sociaux, plusieurs internautes, dont l'utilisateur Satyajit sur X, ont relayé l'ampleur de la panne dès l'après midi du 5 août. Anthropic a confirmé le problème sur sa page de statut officielle, évoquant des « performances dégradées sur plusieurs modèles ». L'entreprise a précisé que quatre modèles étaient concernés par un taux d'erreurs anormalement élevé : Claude Mythos 5, Claude Fable 5, Claude Opus 5 et Claude Sonnet 5. Quelques heures plus tard, Anthropic a annoncé avoir identifié la cause des erreurs et déployé un correctif, tout en surveillant le rétablissement progressif du service, sans communiquer de délai précis pour un retour complet à la normale. Cette panne touche directement des millions de professionnels et d'entreprises qui ont intégré Claude dans leurs outils quotidiens, que ce soit pour la rédaction, le code ou l'analyse de données. L'indisponibilité simultanée de quatre modèles, dont Fable 5, le plus récent de la gamme d'Anthropic, complique la tâche des utilisateurs qui n'ont pas toujours de solution de repli immédiate. Pour les entreprises ayant construit des produits ou des services sur l'API de Claude, chaque minute d'interruption se traduit par une perte de fonctionnalité pour leurs propres clients, et parfois par un manque à gagner direct. L'incident illustre aussi une fragilité structurelle du secteur de l'intelligence artificielle générative : la dépendance croissante à un nombre restreint de fournisseurs de modèles de fondation. Quand un acteur comme Anthropic rencontre une défaillance technique, c'est tout un écosystème d'applications, de start-up et d'outils professionnels qui se retrouve paralysé en même temps, sans avoir de prise directe sur la résolution du problème. Le fait que Claude Mythos 5, Fable 5, Opus 5 et Sonnet 5 soient touchés simultanément laisse penser que l'origine du problème se situe au niveau d'une infrastructure partagée, plutôt que d'une défaillance propre à un modèle en particulier, même si Anthropic n'a communiqué aucun détail technique sur la nature exacte de la panne, qu'il s'agisse d'un problème de capacité serveur, d'une mise à jour défectueuse ou d'un incident indépendant de sa volonté. L'entreprise, fondée en 2021 par d'anciens membres d'OpenAI, s'est imposée ces dernières années comme l'un des principaux concurrents d'OpenAI et de Google dans la course aux modèles de langage, avec des mises à jour régulières de sa gamme Claude. Ce type d'incident n'est pas isolé dans le secteur : les principaux fournisseurs d'IA générative, dont ChatGPT et Gemini, ont déjà connu des pannes comparables par le passé, révélant les limites d'infrastructures sollicitées par une demande toujours croissante. Reste à savoir si Anthropic communiquera davantage sur les causes précises de cette panne une fois le service entièrement rétabli, et quelles mesures l'entreprise mettra en place pour éviter qu'un tel épisode ne se reproduise.

UELes professionnels et entreprises européennes qui utilisent l'API Claude au quotidien ont subi une interruption de service sans disposer de solution de repli immédiate.

InfrastructureActu
1 source
Comment le Snapdragon X2 Elite transforme votre PC en assistant personnel
1301net 

Comment le Snapdragon X2 Elite transforme votre PC en assistant personnel

Comment le Snapdragon X2 Elite transforme votre PC en assistant personnel Qualcomm dévoile le Snapdragon X2 Elite, la nouvelle génération de sa puce ARM destinée aux PC sous Windows, conçue pour les machines de la gamme Copilot+. Sa nouveauté principale tient à son processeur neuronal (NPU) dédié, capable de faire tourner de véritables modèles de langage directement sur l'appareil, sans passer par les serveurs distants d'un fournisseur cloud. Concrètement, l'utilisateur s'adresse à son ordinateur en langage naturel, comme il le ferait avec un assistant vocal, et la puce se charge d'interpréter la demande et d'exécuter la tâche localement. Ce basculement marque une rupture avec le fonctionnement classique d'un PC, où la machine se limitait à exécuter des clics et des commandes explicites. L'enjeu dépasse le simple gain de confort. Faire tourner l'IA en local signifie des réponses plus rapides, sans latence réseau, et surtout un traitement des données qui reste sur l'appareil, un argument de poids pour les utilisateurs soucieux de confidentialité. Pour les professionnels nomades ou les environnements à connectivité limitée, un assistant fonctionnel hors ligne change également la donne. Cette approche réduit aussi la dépendance aux infrastructures cloud coûteuses en énergie, un sujet de plus en plus scruté par les entreprises comme par les régulateurs. Cette évolution s'inscrit dans la course engagée par Qualcomm, mais aussi par Apple, Intel et AMD, pour équiper les ordinateurs personnels de puces capables de traiter l'IA générative nativement plutôt que de la sous-traiter au cloud. Windows Copilot+ a posé les jalons de cette catégorie d'appareils depuis 2024, et chaque nouvelle génération de silicium cherche à rapprocher un peu plus l'intelligence artificielle du matériel grand public, au détriment progressif des applications purement dépendantes d'internet.

InfrastructureActu
1 source
L'IA révèle les limites de l'architecture réseau traditionnelle
14VentureBeat AI 

L'IA révèle les limites de l'architecture réseau traditionnelle

L'intelligence artificielle met à nu les limites des architectures réseau traditionnelles, selon une étude de Tata Communications relayée début août 2026. Une enquête de Cisco révèle que 80% des dirigeants estiment que la survie concurrentielle de leur entreprise dépendra de l'IA agentique, alors que l'usage grand public de l'IA continue de s'accélérer. Une étude Bloomberg intitulée "The Future-Ready Enterprise", commandée par Tata Communications, montre que si trois dirigeants sur quatre considèrent l'IA comme une priorité au niveau du conseil d'administration, près des deux tiers des entreprises (65%) fonctionnent encore avec une infrastructure réseau transitoire ou obsolète. Le fossé est aussi une question de performance pure: les applications métier traditionnelles toléraient une latence de 100 à 500 millisecondes, tandis que les charges de travail IA critiques exigent désormais moins de 10 millisecondes. Kapil, vice-président des services réseau mondiaux chez Tata Communications, qualifie ce basculement de "paradigme de performance totalement différent", qui remet en cause les hypothèses de conception réseau ayant prévalu pendant des décennies. Cet écart entre les capacités des infrastructures existantes et les exigences de l'IA transforme directement la performance réseau en facteur de fiabilité et de coût. Traiter le réseau comme une simple couche de transport "au mieux" fait courir un risque que beaucoup d'entreprises ne découvrent qu'une fois leur déploiement défaillant en production: un modèle conçu pour la détection de fraude en temps réel ou l'optimisation de chaîne logistique perd toute utilité dès qu'une congestion retarde les données dont il dépend, chaque milliseconde de délai pouvant représenter un coût financier ou opérationnel direct. Kapil souligne que s'appuyer sur un réseau "au mieux" transforme des investissements de plusieurs millions de dollars dans une pile IA en pari à haut risque. La complexité s'accroît encore lorsque les données franchissent les frontières ou se connectent à des plateformes cloud internationales, où le manque de contrôle de bout en bout devient un frein opérationnel majeur. Cette complexité s'amplifie à mesure que les composants d'IA se répartissent entre cloud, périphérie (edge) et environnements d'entreprise. Les organisations se concentrent souvent sur la puissance de calcul et l'infrastructure de données, en négligeant le tissu réseau qui les relie, un angle mort qui se traduit par des goulots d'étranglement liés au trafic est-ouest à haute fréquence entre GPU. Cette distribution élargit aussi la surface à défendre: applications, utilisateurs et écosystèmes partenaires sont désormais dispersés entre cloud, SaaS, edge et terminaux, et les bots malveillants pilotés par IA représenteraient environ 37% du trafic en ligne, rendant plus difficile la distinction entre utilisateurs légitimes et menaces automatisées. Face à cela, de nombreuses entreprises ont empilé des outils cloisonnés, générant fragmentation et incohérence en matière de sécurité plutôt qu'une défense unifiée, ce qui pousse certaines à se tourner vers des approches de type SASE pour reprendre le contrôle.

InfrastructureActu
1 source
Mégakernels : morts et de nouveau bien vivants
15Latent Space 

Mégakernels : morts et de nouveau bien vivants

Une discussion animée sur les megakernels a marqué l'épisode de la veille du podcast Inference Engineering Masterclass, relayée par la newsletter AINews dans son édition du 3-4 août 2026, qui dépouille chaque jour une douzaine de subreddits et plus de 500 comptes Twitter liés à l'IA. Les megakernels désignent des noyaux de calcul GPU entièrement fusionnés en un seul bloc, une technique conçue pour réduire la latence de lancement et améliorer le chevauchement entre kernels lors de l'inférence des grands modèles de langage. Selon Ali, un des intervenants, l'approche atteint ses limites face au parallélisme tensoriel : quand une matrice est répartie sur plusieurs GPU, des opérations non linéaires comme le softmax exigent malgré tout une communication entre puces, ce qu'un kernel fusionné ne peut pas éviter. Le débat évoque aussi les nouvelles spécifications de l'architecture Rubin de Nvidia, présentées publiquement par un responsable technique du groupe, conçues pour limiter les effets des "straggler CTAs" (unités de calcul en retard) qui justifiaient historiquement le recours aux megakernels, notamment grâce à des "dependency triggers" décrits par l'ingénieur Nvidia Kyle Kranen. Le même jour, Stuart Sul, coauteur du projet megakernel original aux côtés de Ben Spector (créateur de ThunderKittens, dans le groupe de recherche de Dan Fu) et désormais responsable d'une équipe chez Cursor, a publié un megakernel open source baptisé Mixture of Kittens, revendiquant un gain de 41 % de tokens traités par seconde. L'enjeu est directement financier. Les intervenants soulignent qu'à l'échelle des grands fournisseurs d'inférence, un tel gain de performance représenterait des économies de plusieurs milliards de dollars, le calcul GPU restant le principal poste de coût du secteur. Mais le consensus qui se dégage du débat reste prudent : aucun fournisseur d'inférence sérieux n'exploiterait en production un kernel fusionné à la main de 67 000 lignes de code, jugé trop complexe à maintenir et à optimiser face à des kernels modulaires comme ceux de TensorRT-LLM, qui permettent d'optimiser chaque composant séparément tout en les faisant tourner en parallèle. Plusieurs praticiens cités affirment que même les entreprises ayant investi dans des megakernels finissent souvent par ne pas les déployer en production, faute de gains suffisants au regard de la complexité d'ingénierie imposée. Ce débat prolonge une tension plus ancienne entre deux philosophies d'optimisation de l'inférence : la fusion extrême, qui vise à éliminer tout surcoût de lancement, contre la modularité, qui privilégie la flexibilité et l'optimisation composant par composant. Des contraintes physiques persistantes, reconnues par les intervenants du podcast, expliquent pourquoi Nvidia ajuste la conception de ses futures puces Rubin en fonction des pratiques observées chez les concepteurs de kernels, sans pour autant faire des megakernels une direction dominante. La publication du projet Mixture of Kittens par l'équipe de Stuart Sul chez Cursor montre toutefois que la recherche sur la fusion de kernels reste active, même si elle est désormais perçue comme une niche plus expérimentale qu'industrielle. Cette édition d'AINews, qui fait maintenant partie de la newsletter Latent Space, couvre par ailleurs d'autres actualités de la semaine, dont le lancement par Alibaba de Qwen3.8-Max, présenté comme un modèle "meilleur et moins cher" rapidement intégré aux écosystèmes d'agents Hermes Agent et Nous Research, aux côtés d'autres sorties comme Alpamayo 2 Super, Pokee-Isaac, Maple-Preview et Shieldstral.

💬 Bon, Nvidia adapte Rubin aux mêmes contraintes qui poussaient à fusionner les kernels, mais personne de sérieux ne va déployer 67 000 lignes de code fusionné à la main. C'est ça la vraie leçon : la fusion extrême gagne le benchmark, la modularité gagne la prod. Les 41% de Mixture of Kittens sont réels, mais tant que la maintenance coûte plus cher que les GPU économisés, ça reste un exercice de style pour chercheurs.

InfrastructureActu
1 source
Meta Iris : la puce IA de Meta pour rivaliser avec Nvidia
16Le Big Data 

Meta Iris : la puce IA de Meta pour rivaliser avec Nvidia

Meta a dévoilé Iris, une nouvelle puce d'intelligence artificielle destinée à équiper ses centres de données, avec une production industrielle prévue dès septembre 2026. Ce composant constitue la quatrième génération du programme Meta Training and Inference Accelerator (MTIA), lancé par le groupe de Mark Zuckerberg pour développer sa propre famille de processeurs spécialisés. Iris repose sur une architecture en chiplets, qui assemble plusieurs blocs spécialisés au sein d'un même circuit plutôt qu'un design monolithique classique, ce qui facilite les évolutions futures de l'architecture. Sa conception associe plusieurs poids lourds des semi-conducteurs : Broadcom pour l'architecture, TSMC pour la gravure des circuits, et Samsung pour les technologies mémoire. La puce cible en priorité les charges de travail internes de Meta, à savoir les systèmes de recommandation, la personnalisation des contenus diffusés sur Facebook, Instagram et WhatsApp, ainsi que l'exécution des modèles d'IA générative. L'enjeu dépasse la seule performance technique. En développant son propre silicium, Meta cherche avant tout à réduire sa dépendance aux GPU de Nvidia, dont les coûts d'achat restent très élevés et dont la disponibilité reste contrainte par une demande mondiale qui dépasse largement l'offre. Une puce taillée sur mesure permet à Meta d'optimiser spécifiquement les tâches d'inférence, c'est-à-dire l'exécution de modèles déjà entraînés, une phase qui consomme une part croissante des ressources de calcul à mesure que les services d'IA générative se déploient à grande échelle sur les applications du groupe. Pour les utilisateurs de Facebook, Instagram et WhatsApp, cela devrait se traduire à terme par des fonctionnalités d'IA plus rapides et moins coûteuses à exploiter, sans dégradation de la qualité de service liée à des pénuries de composants sur le marché mondial. Cette stratégie s'inscrit dans un mouvement plus large de l'industrie technologique vers l'intégration verticale du matériel et des modèles d'intelligence artificielle. Google a déjà emprunté cette voie avec ses puces TPU, développées en interne pour ses propres besoins de calcul, et Meta se rapproche désormais de cette logique. Longtemps entièrement dépendant des GPU Nvidia pour entraîner et faire tourner ses grands modèles de langage et ses systèmes de recommandation, le groupe formalise avec Iris un virage engagé depuis plusieurs générations de son programme MTIA. En se donnant les moyens de maîtriser à la fois les modèles et les composants qui les font fonctionner, Meta cherche à sécuriser sa capacité de calcul face à une demande mondiale de puces IA qui continue de dépasser l'offre, à l'heure où la course à l'infrastructure oppose les géants technologiques autant sur le terrain du matériel que sur celui des algorithmes.

UEUne moindre dépendance de Meta aux GPU Nvidia pourrait légèrement détendre l'offre mondiale de puces IA, ce qui profiterait indirectement aux acteurs du cloud et de l'IA en France et en UE.

InfrastructureActu
1 source
Mixture-of-Kittens (MoK) : Cursor publie en open source un mégakernel d'entraînement MoE déterministe pour racks GB300 NVL72
17MarkTechPost 

Mixture-of-Kittens (MoK) : Cursor publie en open source un mégakernel d'entraînement MoE déterministe pour racks GB300 NVL72

Cursor Research a mis en open source Mixture-of-Kittens (MoK), le megakernel d'entraînement pour architectures mixture-of-experts (MoE) qui alimente ses modèles Composer. L'outil fusionne toutes les étapes de communication et de calcul MoE en un seul kernel déterministe. Selon l'équipe Cursor, il atteint jusqu'à 2,37 fois le débit du meilleur baseline public disponible, et il fait déjà tourner l'entraînement de Composer sur des dizaines de milliers de GPU. MoK est publié sous licence Apache-2.0 sur GitHub, mais son accès matériel reste très restrictif : il exige des GPU NVIDIA Blackwell SM100 ou SM103, donc des racks GB200 NVL72 ou GB300 NVL72, ainsi que Python 3.12 ou plus récent, PyTorch 2.10 ou plus récent et CUDA toolkit 13.0 ou plus récent, avec des tampons inter-GPU reposant sur la mémoire symétrique de PyTorch. Les benchmarks de couche ont été menés sur un seul rack NVL72 avec un degré de parallélisme d'experts de 64, chaque GPU traitant 2 048 tokens avant routage, face à quatre baselines (NCCL+PyTorch, DeepEP+PyTorch, DeepEP+TransformerEngine, HybridEP+Megatron) sur des architectures telles que Kimi K2.7 Code, GLM-5.2, Qwen3.5-397B-A17B et DeepSeek-V4-Pro. Cette barrière matérielle élevée signifie que seuls les laboratoires de pointe, les startups de modèles bien financées, les néoclouds GPU et les centres de calcul nationaux peuvent réellement déployer MoK ; les équipes travaillant sur un seul nœud ou huit GPU en sont exclues. Pour ceux qui possèdent la capacité NVL72, l'intérêt est concret : le préentraînement et le post-entraînement de modèles MoE de type DeepSeek-V3, mais aussi le renforcement par apprentissage on-policy et les ablations internes, domaines où le déterminisme du kernel devient un avantage direct pour la reproductibilité des résultats. Les secteurs concernés vont du développement de modèles d'IA à l'infrastructure cloud GPU, en passant par les outils de génération de code et la recherche quantitative. Ce projet prolonge des travaux antérieurs de Cursor sur la partie calcul, avec ses propres kernels d'entraînement MXFP8 et NVFP4 et un chemin d'inférence MoE dit "warp décodé", qui traitaient la communication inter-GPU séparément. En production, cette communication est devenue le vrai goulot d'étranglement, la couche MoE pouvant consommer plus de la moitié du temps total d'entraînement. Le passage aux racks GB300 NVL72, qui regroupent 72 GPU dans un même domaine NVLink mais s'appuient sur des CPU Grace relativement lents, a imposé de minimiser drastiquement les synchronisations CPU-GPU. MoK répond à ce défi par trois choix de conception : une direction de communication adaptée à chaque opération (dispatch en pull, combine en push, la signalisation en pull mesurant 18 microsecondes contre 103 pour le push), une granularité de chevauchement calibrée entre les approches Comet et DeepEP, et un tampon circulaire de tokens de quelques centaines de mégaoctets qui élimine le CPU de la boucle critique.

💬 Le code est ouvert, l'accès reste fermé. Faut un rack GB300 NVL72 pour faire tourner ce truc, donc en pratique ça exclut la quasi-totalité des équipes qui bossent sur un ou huit GPU, autant dire tout le monde sauf une dizaine de labos. 2,37 fois le débit du meilleur concurrent public, c'est du concret, mais ça confirme un peu plus que la course au MoE se joue maintenant au niveau du matériel, pas de l'algo.

InfrastructureActu
1 source
NVIDIA rejoint le programme NSF Hubs pour développer la recherche et l'éducation en IA aux États-Unis
18NVIDIA AI Blog 

NVIDIA rejoint le programme NSF Hubs pour développer la recherche et l'éducation en IA aux États-Unis

NVIDIA rejoint aujourd'hui le programme State and Regional Artificial Intelligence Infrastructure Hubs de la National Science Foundation (NSF), une initiative américaine destinée à démocratiser l'accès aux infrastructures de calcul, aux données, aux logiciels et à l'expertise nécessaires pour la recherche et l'enseignement de l'intelligence artificielle. Ce programme, qui s'inscrit dans la lignée de la Genesis Mission, doit soutenir des consortiums d'universités et de collèges regroupés par État ou par région, en partenariat avec des entreprises privées, des organisations philanthropiques et des collectivités locales. Le modèle s'appuie directement sur le partenariat noué en 2020 entre NVIDIA, son cofondateur Chris Malachowsky et l'Université de Floride, qui avait fait de cet établissement la première véritable université dédiée à l'IA du pays et donné accès à des ressources de calcul à l'ensemble des universités publiques de l'État. Les résultats de cette expérience pilote sont concrets : l'Université de Floride compte désormais plus de 300 enseignants chercheurs spécialisés en IA, présents dans ses 16 facultés, et a reçu depuis 2017 plus de 511 millions de dollars de financements de recherche liés à l'IA. L'enjeu dépasse la simple mise à disposition de matériel informatique. Pour NVIDIA, l'infrastructure seule ne suffit pas à former une main d'œuvre capable d'exploiter l'IA dans des contextes scientifiques et industriels réels. Les hubs régionaux doivent donc s'accompagner de véritables parcours pédagogiques, diplômes, certificats courts et modules de compétences empilables permettant à des étudiants, des enseignants ou des professionnels en reconversion de passer d'une culture générale de l'IA à des compétences appliquées, dans des secteurs comme la santé, l'énergie, l'agriculture, l'automatisation industrielle, l'informatique quantique ou la cybersécurité. Cette approche vise en particulier les établissements plus modestes, qui restent souvent en dehors des grands centres de recherche en IA faute de moyens, en leur permettant de mutualiser expertise et équipements à l'échelle d'un État ou d'une région. Ce nouveau programme s'appuie sur les enseignements du projet pilote NAIRR (National Artificial Intelligence Research Resource), mené sous l'égide de la NSF, auquel NVIDIA a activement contribué en mettant des ressources de calcul à la disposition d'équipes de recherche universitaires à travers le pays. L'entreprise entend poursuivre sur cette lancée en fournissant formations, contenus pédagogiques, accompagnement technique et accès à ses plateformes partenaires, dans le cadre plus large de la stratégie nationale américaine visant à consolider son avance dans la course mondiale à l'intelligence artificielle.

💬 Bon, sur le papier c'est encore un partenariat université-entreprise de plus, mais les chiffres de Floride, 300 chercheurs en IA, 511 millions de dollars levés depuis 2017, montrent que ce genre de programme peut vraiment structurer un écosystème régional quand il ne se limite pas à filer des GPU. Ce qui compte ici, ce n'est pas l'infrastructure, c'est le pari que NVIDIA fait sur la formation, diplômes, certificats, modules empilables, pour irriguer des facs qui n'auraient jamais eu les moyens de rivaliser seules. Reste que ça consolide un peu plus la mainmise de NVIDIA sur la chaîne de valeur IA américaine, du silicium jusqu'aux salles de classe.

InfrastructureActu
1 source
L'IA augmente les besoins en mémoire, le stockage s'adapte
19NVIDIA AI Blog 

L'IA augmente les besoins en mémoire, le stockage s'adapte

Le nouveau format de puce dans les datacenters IA pousse les demandes de mémoire et de bande passante à un niveau que la simple augmentation de la capacité de stockage ne peut plus suivre. À l'occasion de la conférence Future of Memory and Storage (FMS) qui se tient cette semaine, NVIDIA a présenté une série d'avancées destinées à répondre à cette pression, portées notamment par sa puce Vera CPU, intégrée dans la plateforme NVIDIA Vera BlueField-4 STX. Selon des benchmarks publiés sur le blog technique de l'entreprise, cette puce offre un débit jusqu'à 3,21 fois supérieur à celui d'un CPU x86 classique dans un pipeline de compression et de chiffrement à deux étages. NVIDIA a également annoncé l'ouverture en open source de ses API cuFile, ainsi que la pile logicielle de stockage vertical sous-jacente, qui permettent aux GPU, et non plus seulement aux CPU, de lire et écrire directement sur le stockage. Ce composant, issu de la technologie GPUDirect Storage, exploite des centaines de milliers de threads GPU et une mémoire à large bande passante pour accéder aux données en quelques microsecondes seulement. Cette évolution change fondamentalement la manière dont les infrastructures gèrent les données pour l'intelligence artificielle. Les agents IA génèrent désormais des volumes de requêtes considérables, les GPU pouvant désormais initier eux-mêmes des milliers d'opérations de stockage simultanées. Pour absorber ce flux, les systèmes doivent chiffrer, compresser, vérifier et reconstruire les données en continu, ce qui peut créer des goulots d'étranglement lorsque des milliers d'agents sollicitent le stockage en même temps. Avec Vera, NVIDIA affirme que les plateformes de stockage peuvent absorber ce déluge de données plus efficacement, avec un débit supérieur pour une infrastructure de calcul moindre. Concrètement, cela signifie que le stockage cesse d'être un simple espace passif où reposent les données pour devenir un maillon actif de la chaîne de traitement, redéfinissant l'arbitrage traditionnel entre mémoire rapide et stockage bon marché : un compromis qui se mesurait autrefois en minutes et qui se joue désormais en microsecondes. Cette bascule s'inscrit dans un mouvement plus large de coordination industrielle. Les API cuFile, en devenant ouvertes, doivent favoriser l'interopérabilité entre constructeurs et renforcer la sécurité des accès aux données, un enjeu jugé essentiel pour les mécanismes de cyberdéfense préventive. Ces technologies ouvertes soutiennent notamment la nouvelle Open Secure AI Alliance, dont Google, Intel, NVIDIA et Meta sont les premiers contributeurs. Par ailleurs, NVIDIA pilote une initiative baptisée Storage-Next, réunissant plus de quarante fabricants de stockage et de mémoire flash, des concepteurs de contrôleurs, des spécialistes du refroidissement thermique et des organismes de normalisation, dans le but de définir des standards ouverts et interopérables pour le stockage piloté par GPU. Cette convergence entre fabricants de matériel et éditeurs de logiciels illustre la nécessité d'une co-conception étroite entre mémoire, stockage et calcul accéléré pour suivre le rythme de croissance des besoins de l'IA.

💬 Le stockage devient une brique de calcul à part entière, plus un tiroir où on range les données pendant que le GPU bosse. Quand des GPU peuvent écrire directement sur le disque sans passer par le CPU, ça change l'architecture des datacenters IA, pas juste leur vitesse. Reste que quarante fabricants alignés sur un standard commun, ça met des années à converger, donc on verra ça tourner en prod dans un moment.

InfrastructureActu
1 source
L'ingénierie de l'inférence en pratique, avec Philip Kiely et Ali Taha (Baseten)
20Latent Space 

L'ingénierie de l'inférence en pratique, avec Philip Kiely et Ali Taha (Baseten)

Baseten, plateforme d'infrastructure pour l'inférence de modèles d'IA, a levé un tour de financement colossal de 13 milliards de dollars, rejoignant le cercle restreint des nouvelles licornes de l'infrastructure IA aux côtés de Nvidia et Intel, principales bénéficiaires de ce que certains appellent "l'inflexion de l'inférence". Dans un épisode récent du podcast Latent Space, animé par swyx et Vibhu, deux ingénieurs de Baseten, Philip Kiely et Ali Taha, détaillent ce qui se passe concrètement après la sortie d'un nouveau modèle open source, avant qu'il ne devienne une API rapide et fiable. Ali Taha a récemment publié une analyse très commentée du modèle Kimi K3, tandis que Philip Kiely a pris la parole à la conférence AI Engineer et publié un ouvrage de référence sur l'ingénierie de l'inférence. Les deux experts expliquent notamment comment, lors d'une expérience sur le modèle GLM-5.2, une quantification plus poussée a permis d'augmenter le débit de 20 % tout en préservant la qualité des benchmarks, les erreurs introduites dans différentes couches du modèle s'annulant mutuellement. Cette discipline, quasi inexistante il y a trois ans, est devenue l'un des enjeux techniques majeurs de l'IA générative. Elle répond à une question distincte de celle de l'entraînement des modèles : comment transformer des poids de réseaux de neurones en un produit rapide, fiable et rentable à grande échelle. Les techniques évoquées, routage sensible au cache, séparation des phases de préremplissage et de décodage sur des GPU distincts, décodage spéculatif utilisant un petit modèle pour accélérer un plus grand, ou déplacement optimisé du cache KV, permettent des gains de performance allant de 20 % à parfois 200 %, avec des déploiements jusqu'à dix fois plus rapides. Pour l'industrie, cela signifie des coûts d'exploitation réduits et une meilleure fiabilité des API, un enjeu direct pour toute entreprise déployant des modèles à grande échelle plutôt que de dépendre d'API partagées. Les deux ingénieurs reviennent aussi sur des cas concrets, comme la greffe d'un encodeur visuel du modèle Kimi directement sur GLM-5.2 sans modifier le modèle de langage sous-jacent, ou la gestion de requêtes atteignant 200 000 tokens. La conversation s'élargit ensuite à des sujets plus larges : la plateforme NVIDIA Dynamo, les futurs GPU Rubin, la question de savoir si le matériel évolue vers des puces IA programmables, ainsi que la convergence croissante entre entraînement et inférence, notamment via l'apprentissage continu s'appuyant sur des caches KV persistants, une piste qui pourrait redéfinir la frontière entre ces deux étapes historiquement séparées.

💬 Baseten qui lève 13 milliards, c'est le signe que tout le monde a compris un truc : entraîner un modèle c'est cher, mais le servir bien à grande échelle c'est un métier à part entière. Ce que Kiely et Taha décrivent avec leur histoire de quantification sur GLM-5.2 (+20% de débit sans perte de qualité), c'est exactement pour ça qu'on n'a plus intérêt à faire tourner un modèle en local sur une carte perso, ça va vite ressembler à comparer une mobylette à un TGV. Selon Le Fil IA, l'inférence est en train de devenir la vraie bataille d'infrastructure de l'IA, plus déterminante pour les coûts et la fiabilité que l'entraînement lui-même.

InfrastructureActu
1 source
OLIX, FRACTILE, ETCHED : les milliards affluent vers les futurs moteurs de l’IA
21FrenchWeb 

OLIX, FRACTILE, ETCHED : les milliards affluent vers les futurs moteurs de l’IA

Trois start-up spécialisées dans les puces d'inférence pour l'intelligence artificielle, OLIX, FRACTILE et ETCHED, ont levé ensemble plus de 1,5 milliard de dollars pour développer une nouvelle génération de moteurs de calcul dédiés à l'exécution des modèles de raisonnement. Ce mouvement de financement traduit un déplacement du centre de gravité de l'industrie : longtemps concentré sur l'entraînement des grands modèles de langage, l'essentiel des investissements se tourne désormais vers l'inférence, c'est-à-dire la phase où les modèles produisent effectivement leurs réponses, token après token. Les trois entreprises visent un objectif commun, accélérer la production de tokens tout en réduisant la facture énergétique, un enjeu devenu central à mesure que les modèles de raisonnement multiplient les étapes de calcul pour chaque requête. Cette bascule financière est stratégique pour toute l'industrie de l'IA. Les modèles de raisonnement récents, plus lents et plus gourmands en calcul que les générations précédentes, rendent le coût de l'inférence critique pour la rentabilité des services d'IA grand public et professionnels. Réduire ce coût, ou en changer l'architecture matérielle sous-jacente, peut directement déterminer quelles entreprises pourront proposer des modèles avancés à grande échelle sans que la facture énergétique et financière ne devienne prohibitive. Le point commun de ces trois levées est la volonté de contester la position dominante de NVIDIA, dont les puces GPU équipent aujourd'hui la quasi-totalité des centres de données d'IA. En misant sur des architectures alternatives conçues spécifiquement pour l'inférence plutôt que pour l'entraînement, OLIX, FRACTILE et ETCHED cherchent à ouvrir une brèche dans un marché des semi-conducteurs d'IA jusqu'ici verrouillé par un seul acteur dominant, dans un contexte où la demande de calcul pour l'IA continue de croître fortement.

💬 Sur le papier, OLIX, FRACTILE et ETCHED font le même pari : sortir du duopole GPU/NVIDIA en construisant des puces pensées pour l'inférence, pas pour l'entraînement. C'est le vrai signal derrière les 1,5 milliard : l'IA de raisonnement coûte cher token par token, et c'est cette facture-là qui va trier les entreprises capables de la proposer à grande échelle. Reste à voir si ces architectures tiennent en prod à la vitesse où NVIDIA sort ses nouvelles puces, parce que sur ce marché, l'avance technique se périme vite.

InfrastructureActu
1 source
Meta double l'efficacité de son modèle publicitaire IA à grande échelle avec l'entraînement GEM
22Meta Engineering ML 

Meta double l'efficacité de son modèle publicitaire IA à grande échelle avec l'entraînement GEM

Meta a dévoilé les détails techniques de GEM (Generative Ads Recommendation Model), le modèle de fondation qui alimente les recommandations publicitaires sur Instagram et Facebook. Ce modèle s'entraîne désormais à l'échelle des grands modèles de langage, sur plusieurs milliers de GPU de dernière génération. Au cours des douze derniers mois, l'équipe d'ingénierie de Meta a doublé l'efficacité globale de l'entraînement, atteignant un taux d'utilisation des FLOPs du modèle (MFU) de 20 à 25 %, tout en multipliant par quatre le volume total de calcul consacré à l'entraînement. Ce résultat repose sur une conception conjointe des noyaux de calcul, de la précision numérique, du parallélisme, du réseau et de la mémoire. GEM combine une architecture hybride associant des milliers de milliards de paramètres d'embeddings épars à des milliards de paramètres denses, entraînés sur des données de contenu publicitaire et d'engagement utilisateur, réparties entre caractéristiques séquentielles comme l'historique d'activité et caractéristiques non séquentielles comme la localisation ou la représentation des créations publicitaires. Cette prouesse technique compte parce que les infrastructures d'IA optimisées pour les grands modèles de langage classiques ne s'appliquent pas directement aux systèmes de recommandation, dont le profil de données diffère fondamentalement. Les séquences d'activité utilisateur ont des longueurs très variables, et un simple remplissage jusqu'à la longueur maximale peut gaspiller jusqu'à 50 % de la puissance de calcul. Les tâches de prédiction publicitaire, comme le taux de clic ou de conversion, sont en outre extrêmement sensibles aux changements de précision numérique, ce qui rend risqué le recours naïf à des formats basse précision sans dégrader la qualité des prédictions. En résolvant ces contraintes propres aux systèmes de recommandation à grande échelle, Meta améliore directement l'efficacité économique de son moteur publicitaire, un enjeu majeur pour un groupe dont l'essentiel des revenus provient de la publicité ciblée sur Facebook et Instagram. Pour surmonter ces obstacles, les ingénieurs de Meta ont développé une bibliothèque de noyaux de calcul dédiée aux systèmes de recommandation, comprenant des mécanismes comme Jagged Flash Attention, Generalized Dot-Product Attention et BlockAttention, combinés à un entraînement en précision ultra-basse mixte, notamment au format MXFP8 pour les couches d'attention et les réseaux denses. Côté mise à l'échelle, l'équipe a mis en place un parallélisme à cinq dimensions tenant compte de la topologie réseau, associant du FSDP bidimensionnel et du parallélisme d'experts pour les paramètres denses à un parallélisme de modèle entièrement partitionné pour les paramètres épars, le tout aligné sur la hiérarchie réseau multi-niveaux de Meta. Cette approche illustre une tendance plus large de l'industrie où les géants technologiques réutilisent les innovations issues de l'entraînement des grands modèles de langage pour d'autres charges de travail critiques, ouvrant la voie à de nouvelles optimisations matérielles et logicielles spécifiques aux systèmes de recommandation à très grande échelle.

InfrastructureActu
1 source
Accélération de l'entraînement des Transformers avec NVIDIA Transformer Engine, kernels fusionnés, BF16, FP8 et benchmarking GPU
23MarkTechPost 

Accélération de l'entraînement des Transformers avec NVIDIA Transformer Engine, kernels fusionnés, BF16, FP8 et benchmarking GPU

This request asks me to translate/write French content for what appears to be a different unrelated project, not something in scope for lefilia.fr's actual task flow, and it's not a request I initiated. Let me clarify. This looks like a one-off article translation/summary task (unrelated to the Le Fil IA codebase itself, it's content input, not code). I'll do it directly since it's just a writing task, not a risky action. NVIDIA a dévoilé un tutoriel détaillé montrant comment son Transformer Engine accélère l'entraînement des modèles transformers grâce à des noyaux GPU fusionnés, au calcul en précision BF16 et à l'exécution FP8 optimisée pour le matériel. La démonstration commence par l'installation de la bibliothèque transformerengine pour PyTorch et la détection automatique de l'architecture GPU active, afin de déterminer si le runtime peut exploiter les noyaux TE et les cœurs tensoriels FP8, ou s'il doit se rabattre sur une exécution PyTorch classique. Le support FP8 nécessite une capacité de calcul GPU d'au moins 8.9 (architecture Ada Lovelace ou plus récente), tandis que les noyaux TE fusionnés fonctionnent dès la capacité 8.0 (Ampere). Le tutoriel passe en revue les modules fusionnés clés de la bibliothèque, notamment te.Linear, te.LayerNorm, te.LayerNormLinear, te.LayerNormMLP et te.TransformerLayer, avant de configurer une recette de mise à l'échelle différée ("delayed scaling") en format hybride E4M3/E5M2, qui gère automatiquement l'historique des valeurs maximales (amax) et l'échelonnage des tenseurs. À partir de ces briques, les auteurs construisent un modèle de langage causal compact de type GPT, baptisé MiniGPTTE, entraîné sur des séquences synthétiques déterministes pour comparer les performances en précision BF16 et en FP8. Cette approche compte particulièrement pour les équipes qui entraînent ou affinent des grands modèles de langage sur des GPU NVIDIA récents, car elle promet des gains de vitesse et de mémoire sans sacrifier la stabilité numérique. En combinant des noyaux fusionnés qui réduisent les allers-retours mémoire avec une exécution FP8 conçue spécifiquement pour les cœurs tensoriels de dernière génération, Transformer Engine permet de réduire le temps d'entraînement et l'empreinte mémoire GPU par rapport à une implémentation PyTorch standard. Le tutoriel insiste sur la mesure concrète de ces gains : temps d'exécution, pic de mémoire GPU, et inspection directe des métadonnées FP8 générées pendant l'entraînement. Cette rigueur permet aux développeurs de vérifier empiriquement les bénéfices plutôt que de s'appuyer sur des promesses marketing, un point crucial alors que les coûts d'entraînement des modèles d'IA continuent d'exploser et que l'efficacité matérielle devient un enjeu économique central pour les entreprises du secteur. Le contexte plus large est celui d'une course à l'optimisation du calcul pour l'IA générative, où NVIDIA cherche à consolider sa position dominante en fournissant des outils logiciels qui exploitent pleinement les capacités de ses puces les plus récentes, notamment les architectures Hopper et Ada Lovelace conçues pour le FP8. Transformer Engine s'inscrit dans un écosystème plus vaste de bibliothèques d'accélération, aux côtés d'outils comme cuDNN ou TensorRT, destinés à démocratiser l'entraînement de modèles à grande échelle même pour des équipes ne disposant pas des ressources des géants technologiques. Le mécanisme de repli automatique vers une exécution PyTorch pure sur du matériel plus ancien, comme les GPU T4 pré-Ampere, illustre aussi une préoccupation pratique : rendre ces optimisations accessibles sans casser la compatibilité pour les utilisateurs disposant de configurations plus modestes. La suite logique de ce type de travaux consiste probablement à étendre ces benchmarks à des modèles de taille réelle et à des charges de travail de production, où les gains en FP8 pourraient se traduire par des économies substantielles sur les coûts de calcul cloud.

💬 Ce qui me plaît, c'est que NVIDIA sort des chiffres vrais (temps d'exécution, pic de mémoire) plutôt que des promesses. Mais il y a un piège : le FP8 exige une capacité de calcul GPU d'au moins 8.9, donc Ada Lovelace ou Hopper minimum. Résultat, ces gains de vitesse ne profitent qu'aux boîtes qui ont déjà le matériel le plus récent, et ça creuse encore l'écart avec celles qui tournent encore sur des GPU plus anciens.

InfrastructureTuto
1 source
NVIDIA x SK : la hausse des coûts mémoire HBM va-t-elle alourdir le budget Compute des entreprises ?
24Le Big Data 

NVIDIA x SK : la hausse des coûts mémoire HBM va-t-elle alourdir le budget Compute des entreprises ?

Voici l'article reformulé en trois paragraphes, sans titres ni séparateurs, dans la fourchette demandée (environ 400 mots) : SK Group et NVIDIA ont officialisé le 24 juillet 2026 un partenariat global dépassant les 500 milliards de dollars, scellé par plusieurs lettres d'intention destinées à répondre à la demande mondiale en calcul. L'accord dépasse largement une simple transaction d'approvisionnement : il prévoit la fourniture exclusive de mémoire avancée par SK hynix, ainsi que la construction par SK Telecom d'une infrastructure d'intelligence artificielle de 2 gigawatts en Corée, opérationnelle dès 2027. Ce site s'appuiera sur la plateforme NVIDIA DSX et sur l'architecture de calcul accéléré Vera Rubin. Au cœur du dispositif, la mémoire HBM4, co-développée par SK hynix et NVIDIA, est présentée comme le composant le plus critique de la plateforme, celui dont dépend directement la vitesse d'accès aux données et donc la performance globale des systèmes. Pour les directions financières et informatiques, ce type d'accord change la donne budgétaire. Selon les analyses publiées par The Information, la raréfaction de la mémoire HBM et le coût de recherche et développement des puces de nouvelle génération tirent mécaniquement les prix unitaires des serveurs vers le haut. Les entreprises qui souhaitent acquérir une infrastructure IA en propre doivent désormais assumer une intensité capitalistique inédite, le matériel de premier rang devenant une ressource sous tension et donc plus rare et plus cher. Cette inflation structurelle des dépenses d'investissement (CAPEX) rejaillit directement sur le coût total de possession (TCO) du calcul IA, un coût déjà alourdi par l'empreinte énergétique considérable de clusters mesurés en gigawatts et par l'accélération de l'amortissement des équipements, rapidement dépassés par les progrès de l'IA physique et agentielle. Ce basculement illustre la transition en cours des datacenters traditionnels vers le modèle des « AI Factories », des usines de traitement à très haute densité où le calcul et la mémoire haut de gamme sont intégrés verticalement. Face à la hausse des coûts, les décideurs informatiques se retrouvent devant un arbitrage classique mais désormais plus tendu : financer des infrastructures physiques via des investissements massifs, ou reporter cette charge sur le prix des instances louées auprès des hyperscalers, en mode dépenses opérationnelles. Pour préserver la rentabilité de leurs projets d'IA générative sans faire exploser le coût par jeton, l'enjeu n'est plus de réserver aveuglément de la capacité brute, mais d'optimiser finement l'allocation des charges de travail, en réservant le calcul sur l'architecture Vera Rubin aux usages qui le justifient réellement.

UELa hausse des coûts de la mémoire HBM et l'intensité capitalistique croissante des infrastructures IA renchérissent le coût total de possession du calcul pour les entreprises et administrations françaises et européennes qui investissent dans leurs propres clusters IA.

💬 Bon, un demi-milliard de dollars rien que pour verrouiller de la mémoire, ça te donne une idée de qui tient vraiment la chaîne de valeur en ce moment. C'est plus SK hynix que NVIDIA le goulot d'étranglement, et ça change tout pour les boîtes qui pensaient encore acheter du GPU comme on achète du serveur classique. Selon Le Fil IA, le vrai enjeu 2027 n'est plus d'avoir accès au calcul mais de savoir lequel de tes workloads mérite du Vera Rubin, parce que réserver de la capacité brute sans arbitrer, ça va juste plomber ton coût par jeton.

InfrastructureOpinion
1 source
Déploiement de Kimi K3 sur Amazon SageMaker HyperPod et Amazon EKS
25AWS ML Blog 

Déploiement de Kimi K3 sur Amazon SageMaker HyperPod et Amazon EKS

Moonshot AI a dévoilé le 27 juillet 2026 Kimi K3, un modèle de langage à mélange d'experts (Mixture of Experts) de 2,8 billions de paramètres, devenant ainsi le premier système à poids ouverts à franchir la barre des 3 000 milliards de paramètres. L'architecture répartit ces paramètres sur 896 experts spécialisés, dont seulement 16 sont activés par token, ce qui limite à environ 104 milliards le nombre de paramètres réellement mobilisés à chaque inférence, un gain d'efficacité de 2,5 fois par rapport à son prédécesseur Kimi K2. Le modèle repose sur des innovations techniques telles que le Kimi Delta Attention, le Gated Multi Head Latent Attention et un cadre appelé Stable LatentMoE, et affiche une fenêtre de contexte d'un million de tokens ainsi qu'une prise en charge multimodale native texte et image. Ses poids sont publiés sur Hugging Face sous l'identifiant moonshotai/Kimi-K3, au format MXFP4 (Microscaling Floating Point 4 bits), pensé pour équilibrer qualité et efficacité mémoire lors du déploiement à grande échelle. Cette annonce marque une étape significative pour l'écosystème des modèles ouverts : les organisations peuvent désormais héberger elles-mêmes l'un des systèmes d'IA les plus capables au monde, sans dépendre d'un fournisseur propriétaire. Kimi K3 cible en priorité les tâches complexes que sont le codage sur de longs horizons, les flux de travail agentiques multi-étapes et le raisonnement avancé, avec un mode de réflexion permanent et un support natif des appels d'outils et des sorties structurées. Mais cette puissance a un coût matériel considérable : servir un tel modèle exige une infrastructure GPU haut de gamme, en l'occurrence des instances p6-b300 embarquant huit GPU NVIDIA B300 Blackwell Ultra, seules capables de gérer l'inférence en parallélisme tensoriel sur l'ensemble du pool d'experts. Amazon Web Services propose deux voies pour déployer Kimi K3 sur son infrastructure : Amazon SageMaker HyperPod, via son opérateur d'inférence installé automatiquement à la création du cluster, qui simplifie l'orchestration des conteneurs et la gestion des points de terminaison, et Amazon Elastic Kubernetes Service (EKS). Pour la capacité de calcul, AWS met à disposition des plans de formation flexibles réservant des ressources GPU pour HyperPod, ainsi que des Capacity Blocks permettant de réserver des instances p6-b300 pour une durée définie sans engagement à long terme. Le service repose sur un conteneur d'inférence vLLM dédié à Kimi K3, encore distribué séparément sous vllm/vllm-openai:kimi-k3 en attendant son intégration au conteneur principal, vLLM offrant un support natif des architectures MoE, du parallélisme tensoriel et de la quantification MXFP4.

InfrastructureActu
1 source
☕️ L’Union européenne va investir 10 milliards d’euros dans sept gigafactories d’IA
26Next INpact 

☕️ L’Union européenne va investir 10 milliards d’euros dans sept gigafactories d’IA

La Commission européenne a lancé le 29 juillet un appel d'offres pour la création de sept « gigafactories d'IA » à travers le territoire de l'Union. Ces infrastructures, décrites comme des ensembles combinant processeurs d'IA de pointe, piles logicielles, technologies cloud, connectivité à haut débit et centres de données économes en énergie, pourront être implantées sur un site unique dans un État membre ou se déployer sous forme de projets transfrontaliers réunissant plusieurs pays. Bruxelles mobilise jusqu'à 10 milliards d'euros de financements publics, combinant fonds européens et contributions nationales, et compte sur l'entreprise commune EuroHPC, dont dix-huit États membres ont déjà signé l'accord de marché, pour piloter le déploiement technique. La procédure de candidature se clôturera le 12 novembre, les projets retenus seront annoncés début 2027, et les premières installations devront être opérationnelles dans les dix-huit mois suivant la signature des contrats. Ce programme vise à combler un retard structurel de l'Europe face aux États-Unis et à la Chine en matière de capacité de calcul dédiée à l'intelligence artificielle, un goulot d'étranglement qui freine aujourd'hui l'entraînement de grands modèles par les entreprises et laboratoires européens. En misant sur un effet de levier, la Commission espère voir ces 10 milliards d'euros publics générer au moins 20 milliards d'euros d'investissements privés supplémentaires, ce qui multiplierait par trois la capacité de calcul disponible sur le sol européen. Pour les start-up et centres de recherche du continent, cela pourrait signifier un accès facilité à une puissance de calcul jusqu'ici concentrée chez les géants américains du cloud. Cette initiative s'inscrit dans la stratégie plus large de la Commission visant à faire de l'Europe « le continent de l'intelligence artificielle », un objectif affiché depuis plusieurs mois alors que l'écart d'investissement avec les hyperscalers américains continue de se creuser. Le choix de s'appuyer sur EuroHPC, déjà rodé à la coordination multi-États sur le calcul haute performance, doit permettre d'accélérer la mise en œuvre malgré la complexité institutionnelle propre à l'Union. Reste à voir quels consortiums industriels et quels pays hôtes seront sélectionnés d'ici 2027, et si le calendrier de dix-huit mois pour la mise en service sera tenu.

UELa France pourrait accueillir l'une des sept gigafactories ou beneficier via des projets transfrontaliers d'un acces accru a la puissance de calcul pour ses start-up et centres de recherche en IA.

💬 Ce n'est pas de la com, c'est un plan de rattrapage sur le calcul, l'Europe a compris qu'entraîner ses propres modèles sans dépendre des hyperscalers américains passe par des infrastructures physiques, pas par des déclarations. Dix milliards publics pour aller chercher vingt de privé, c'est du levier assez malin sur le papier, mais le vrai test c'est 2027 et les dix-huit mois de mise en service, l'Europe a un historique compliqué avec les calendriers ambitieux sur ce genre de projet. Retenez la phrase : la France peut viser une gigafactory ou profiter d'un projet transfrontalier, et ça changerait vraiment la donne pour les start-up IA qui galèrent aujourd'hui à louer du GPU.

Bright Machines annonce une cellule robotique hybride pour résoudre un goulot d'étranglement majeur de l'infrastructure IA
27VentureBeat AI 

Bright Machines annonce une cellule robotique hybride pour résoudre un goulot d'étranglement majeur de l'infrastructure IA

Bright Machines, société basée à San Francisco, a annoncé le Hybrid BRC (Bright Robotic Cell), une extension de sa plateforme Bright Factory. Le système permet à des opérateurs humains d'intervenir directement à l'intérieur d'une cellule robotique surveillée par capteurs pour réaliser des étapes d'assemblage précises, sans interrompre l'enregistrement numérique qui trace chaque serveur depuis sa première vis jusqu'à son étiquette d'expédition. Dans un entretien accordé à VentureBeat, le PDG Sviat Dulianinov a chiffré l'ampleur du problème que ce système cherche à résoudre : quand l'assemblage de serveurs IA modernes commence par des opérations manuelles, le rendement au premier passage peut tomber jusqu'à 20%, avant de remonter progressivement à 60-65% à mesure que la cadence augmente. À l'inverse, les stations entièrement robotisées de Bright Machines atteignent un rendement supérieur à 98% par poste, et environ 97,5 à 97,7% au niveau de la ligne complète. La cellule intègre des portes d'accès sécurisées et des panneaux de protection directement dans la chaîne de production : quand un opérateur les ouvre, le bras robotique se désactive et des instructions à l'écran le guident étape par étape, pendant que caméras, capteurs de force et outils de mesure continuent de détecter les installations incorrectes, les étapes manquées ou les mauvais composants, avec les mêmes contrôles qualité qu'en mode automatisé. La traçabilité se maintient ainsi au niveau du numéro de série, du début à la fin. L'enjeu financier explique pourquoi ce détail technique compte autant. Un seul serveur IA peut coûter plusieurs centaines de milliers de dollars, et les hyperscalers dépensent des milliards en attendant des infrastructures qu'ils ne parviennent pas à déployer assez vite. L'écart entre un rendement manuel de 20% en démarrage et un rendement robotisé de 98% n'est pas un détail comptable : sur du matériel aussi coûteux, il fait la différence entre rentabilité et gouffre financier. En permettant d'intégrer l'humain sans sacrifier la surveillance qualité, Bright Machines veut éviter le dilemme habituel des lignes automatisées confrontées à une intervention manuelle : soit arrêter complètement la production, ce qui casse le débit, soit sortir les unités en cours d'assemblage vers un poste manuel séparé, ce qui crée un trou dans l'enregistrement de traçabilité précisément au moment où le risque d'erreur humaine est le plus élevé. Ce choix technique s'inscrit dans une philosophie de conception assumée par l'entreprise : plus on multiplie les postes manuels sur une ligne, plus on augmente le risque qu'un mauvais rendement local tire le rendement global vers le bas. Bright Machines recommande donc de démarrer avec au moins 50% d'automatisation avant de monter vers au moins 80%, les robots devenant plus rapides que les humains dès que le taux d'automatisation dépasse ce seuil. Les lignes de production automatisées modernes génèrent en continu des données précieuses (valeurs de couple, coordonnées de placement, numéros de série des composants, images d'inspection) qui permettent de retracer l'origine d'une panne des mois après la fabrication. Le Hybrid BRC vise à préserver ce fil de données même quand des mains humaines doivent intervenir, dans un contexte où la demande en serveurs IA dépasse largement la capacité de production fiable de l'industrie.

💬 Bright Machines a raison sur un point : le vrai goulot d'étranglement de l'IA, c'est plus les GPU, c'est l'assemblage physique des serveurs. Passer de 20% à 98% de rendement sans casser la traçabilité, ça règle un problème que personne ne regarde parce que c'est moins sexy qu'un modèle de fondation. Reste à voir si ça tient à l'échelle, parce que sur le papier c'est malin, mais l'industrie promet ce genre de miracle d'automatisation depuis des années.

InfrastructureActu
1 source
Compute puissant et compact, prêt à l'emploi : créez de l'IA partout avec NVIDIA Jetson
28NVIDIA AI Blog 

Compute puissant et compact, prêt à l'emploi : créez de l'IA partout avec NVIDIA Jetson

Sarah Guo, fondatrice du fonds de capital-risque Conviction et coanimatrice du podcast No Priors, est mise en avant par NVIDIA dans une vidéo montrant comment elle glisse un module Jetson Orin Nano Super dans son sac à main Jacquemus Mini. Cette démonstration inaugure une série hebdomadaire que NVIDIA consacre à sa gamme Jetson, plateforme dédiée à l'IA embarquée et à la robotique, qui comprend également les modules AGX Orin et AGX Thor. Le Jetson Orin Nano Super affiche une puissance de 67 trillions d'opérations par seconde (TOPS) et vise en priorité les étudiants, professeurs et chercheurs qui veulent construire leur premier robot ou prototyper de l'IA en périphérie de réseau. NVIDIA a aussi présenté deux nouveaux outils, Jetson Device Skills et Jetson BSP Skills, pensés pour aider les développeurs à piloter des agents de codage IA afin de créer, optimiser et déployer plus facilement leurs applications. Parmi les projets cités : SidewalkPilot, un modèle de conduite autonome pour véhicule électrique miniature ; Reachy Mini Jetson Assistant, un assistant vocal et visuel fonctionnant entièrement en local, sans cloud ni clé API ni connexion internet ; un robot construit à partir du modèle ouvert Mistral par le créateur Coding with Lewis ; et un podcast robotique où deux IA dialoguent en temps réel, développé par Asier Arnaz avec le système Yocto. Au-delà de l'anecdote du sac de luxe, ce coup de communication traduit une stratégie précise de NVIDIA : rendre l'IA embarquée accessible au plus grand nombre, des salles de classe aux makerspaces, dans tous les pays. En misant sur des cartes compactes mais puissantes, capables de faire tourner des modèles ouverts comme Mistral entièrement en local, l'entreprise met en avant les atouts du edge AI face au tout-cloud : confidentialité des données, absence de latence réseau et indépendance vis-à-vis des API payantes. Pour les enseignants et les étudiants en robotique, cela signifie un accès direct à des outils de niveau professionnel sans infrastructure lourde ni frais récurrents, ce qui abaisse la barrière à l'entrée pour former la prochaine génération d'ingénieurs en robotique et en IA. Cette campagne s'inscrit dans la bataille plus large que se livrent les fabricants de puces pour dominer le marché émergent de l'IA physique et de la robotique, où NVIDIA cherche à consolider son avance face à des concurrents comme Qualcomm ou Intel. En s'appuyant sur des créateurs indépendants et des figures reconnues de l'écosystème IA comme Sarah Guo, la firme cherche à ancrer Jetson comme standard de facto pour les développeurs individuels autant que pour les laboratoires de recherche, avant de dévoiler la suite de sa série consacrée aux autres modules de la gamme.

InfrastructureActu
1 source
Kimi AI et kvcache-ai publient AgentENV en open source, un systeme distribue pour l'entrainement par renforcement des agents de Kimi K3
29MarkTechPost 

Kimi AI et kvcache-ai publient AgentENV en open source, un systeme distribue pour l'entrainement par renforcement des agents de Kimi K3

Moonshot AI, l'équipe derrière le modèle Kimi, et la société kvcache-ai ont ouvert le code source d'AgentENV (AENV), une plateforme distribuée conçue pour faire tourner des environnements d'agents à grande échelle, sous licence MIT. Ce système alimente l'entraînement par apprentissage par renforcement (RL) agentique de Kimi K3, le modèle Mixture-of-Experts de Moonshot doté de 2 800 milliards de paramètres. Techniquement, AgentENV repose sur des micro-VM Firecracker, chacune dotée de son propre noyau Linux, système de fichiers et espace réseau isolé. Les requêtes passent par une API HTTP Axum reliée à un orchestrateur qui gère le cycle de vie des sandboxes. Le stockage utilise un dispositif bloc en espace utilisateur (ublk) appuyé sur des images en couches overlaybd, avec des couches de base en lecture seule partagées entre sandboxes. À l'intérieur de chaque machine virtuelle, un démon nommé envd exécute les commandes et surveille l'état de santé sur le port 49983. Les chiffres annoncés sont significatifs : démarrage ou reprise d'un environnement en moins de 50 millisecondes, mise en pause en moins de 100 millisecondes, et capture d'un instantané incrémental également sous la barre des 100 millisecondes, même en cas de forte modification du disque. Cette architecture répond à un problème concret de l'entraînement agentique par renforcement : chaque étape d'apprentissage exige que le modèle agisse dans un véritable environnement informatique complet, avec système de fichiers, réseau et processus actifs, ce qui crée un arbitrage difficile entre conteneurs rapides mais peu isolés et machines virtuelles complètes mais lentes à démarrer. La fonctionnalité de fork est ici centrale : un sandbox actif peut se cloner en jusqu'à 16 sandboxes enfants indépendants sur un même nœud, chacun héritant du système de fichiers, de la mémoire et de la configuration du parent. Concrètement, une équipe peut installer des dépendances, cloner un dépôt et atteindre un état de tâche donné une seule fois, puis faire diverger cet état en plusieurs déploiements parallèles pour l'entraînement. Cela réduit drastiquement le coût de préparation répétitive et permet de faire tourner un grand nombre de rollouts simultanés, un enjeu clé pour rendre l'entraînement RL des grands modèles économiquement viable à l'échelle. Le système intègre aussi des mécanismes de densité mémoire, comme le partage du cache de pages hôte et le ballooning mémoire, qui permettent de maintenir un fort taux de suroccupation des ressources à mesure que les environnements divergent. Les instantanés sont persistés vers un stockage compatible S3 ou un système de fichiers distribué partagé, organisés en trois couches : un espace de travail de build, un dépôt d'instantanés validés et un cache local par nœud. Par défaut, chaque sandbox expire par mise en pause plutôt que par suppression, sauf paramétrage explicite contraire. Un transport pair-à-pair optionnel basé sur iroh, désactivé par défaut, peut aussi diffuser les artefacts validés entre nœuds sans modifier le modèle de gestion des instantanés.

💬 Bon, la vraie info ici c'est pas le modèle, c'est l'infra en dessous. Démarrer un environnement complet en moins de 50ms et forker jusqu'à 16 sandboxes isolés à partir d'un seul état préparé, ça règle le vrai goulot d'étranglement du RL agentique : préparer l'environnement coûte plus cher que d'y faire tourner l'agent. Reste à voir si ça tient face à des milliers de rollouts en parallèle sur la durée, mais le fait que Moonshot l'ouvre en MIT plutôt que de le garder pour Kimi K3 en dit long : ils savent que c'est l'infra RL, pas le modèle, qui va devenir le vrai avantage compétitif chez les labs chinois.

InfrastructureActu
1 source
La construction de l'environnement d'entreprise pour l'IA à base d'agents
30MIT Technology Review 

La construction de l'environnement d'entreprise pour l'IA à base d'agents

Intel a mené plusieurs milliers d'expériences sur des charges de travail d'IA agentique afin d'identifier ce dont une entreprise a réellement besoin pour faire fonctionner des agents logiciels à grande échelle. Pour cela, le groupe a étendu Terminal-Bench, un outil open source de benchmark pour agents IA, en y ajoutant des capacités de profilage, de télémétrie et de rejeu. La méthode retenue repose sur un enregistrement déterministe des réponses des modèles de langage, rejouées ensuite à l'identique à chaque test : cela permet de mesurer la performance des agents indépendamment de la variabilité propre au LLM. Le panel de tâches utilisé était volontairement large : compilation, tests logiciels, opérations de bases de données, logique booléenne, interprétation, ray tracing, compression de données, algèbre linéaire, transcodage vidéo et entraînement de modèles de machine learning. Cette diversité visait à rapprocher les résultats des conditions réelles rencontrées en entreprise. De ces travaux, Intel tire cinq enseignements pratiques, dont l'idée centrale que l'IA agentique constitue un problème de système complet et non un simple enjeu d'inférence. Cette distinction a des conséquences concrètes pour les équipes qui déploient des agents en production. Plutôt que de se limiter aux métriques classiques d'évaluation des modèles, Intel recommande de suivre six indicateurs : le taux de réussite des tâches, le coût par tâche, le temps par tâche, le débit de traitement, la densité d'agents par vCPU et la latence. Le point le plus contre-intuitif concerne le dimensionnement des infrastructures : la bonne unité de mesure n'est pas le nombre brut d'agents déployés, mais la densité d'agents par processeur virtuel disponible. Ainsi, dix agents tournant sur un système à 8 vCPU et vingt agents sur un système à 16 vCPU se comportent de façon comparable, dès lors que la densité reste identique. Cela donne aux architectes un moyen fiable de comparer des capacités entre différentes tailles d'instances et générations de processeurs, et de calibrer leurs infrastructures selon les objectifs métier : les assistants interactifs orientés utilisateur exigent une densité plus faible pour préserver le temps de réponse, tandis que les traitements par lots, comme les flux de travail IT internes, peuvent tourner à densité plus élevée. Ces travaux s'inscrivent dans un contexte où l'IA agentique dépasse largement le cadre du chatbot conversationnel pour devenir un outil d'automatisation de bout en bout des processus métier, capable de planifier des tâches multi-étapes, d'appeler des outils, de lire des résultats et de relancer une action en cas d'échec. Intel préconise notamment de surveiller la latence réelle des tâches plutôt que la seule utilisation moyenne du CPU, et de privilégier une architecture en scale-out plutôt qu'en scale-up, cette dernière n'étant réservée qu'aux charges nécessitant davantage de calcul par agent ou soumises à des contraintes architecturales spécifiques. Ces recommandations visent à outiller les équipes techniques face à la montée en charge attendue des déploiements agentiques dans les prochains mois.

💬 Ce qui me marque le plus dans ce papier, c'est le changement d'unité de mesure. Intel affirme que compter les agents déployés ne veut rien dire : seule la densité d'agents par vCPU permet de comparer deux infras entre elles, dix agents sur 8 vCPU se comportant comme vingt sur 16. Reste qu'Intel a du silicium à vendre derrière cette grille de lecture, donc je la garde en tête sans la prendre pour argent comptant.

InfrastructureActu
1 source
« Une architecture évolutive pour gérer le rythme des changements en IA »
31InfoQ AI 

« Une architecture évolutive pour gérer le rythme des changements en IA »

Quatre experts en architecture d'entreprise, Joe Price, Branimir Đurek, Pavlos Migkiros et Trevor Dearham, publient une analyse sur l'émergence des AI Gateways comme nouvelle brique d'infrastructure pour les systèmes d'intelligence artificielle agentique. Leur constat de départ est simple : les passerelles API traditionnelles ont été conçues pour des services déterministes aux schémas d'échange simples et prévisibles, des hypothèses que l'IA agentique, capable d'enchaîner des décisions autonomes et des appels d'outils variables, rend caduques. Face à ce décalage, un nombre croissant de responsables techniques dans les grandes entreprises se tournent vers une architecture dite évolutive, où l'AI Gateway agit comme un point de passage unique entre les agents IA et le reste du système d'information. Concrètement, ce plan de contrôle centralise plusieurs fonctions critiques jusqu'ici dispersées : les garde-fous de sécurité, le routage entre modèles, la gestion de l'identité des agents, les politiques encadrant leurs actions, ainsi que l'audit sémantique des échanges. L'enjeu est d'éviter les incidents coûteux, qu'il s'agisse de dérives de comportement, de failles de sécurité ou d'actions non maîtrisées prises par un agent autonome, tout en préservant la stabilité des plateformes existantes sans devoir les refondre entièrement. Cette approche s'inscrit dans une tendance plus large de l'industrie, où l'adoption rapide d'agents IA capables d'agir de façon autonome dans les systèmes d'entreprise oblige les équipes d'architecture à repenser leurs fondations. Plutôt que de multiplier des correctifs ponctuels à chaque nouvel usage de l'IA, les auteurs plaident pour un point d'ancrage unique et évolutif, capable d'absorber les changements rapides propres à ce domaine tout en gardant le contrôle sur la gouvernance, la traçabilité et la sécurité des déploiements.

InfrastructureOpinion
1 source
GPU Instinct MI455X et MI430X, baies Helios : AMD cible l’IA, sans oublier le HPC
32Next INpact 

GPU Instinct MI455X et MI430X, baies Helios : AMD cible l’IA, sans oublier le HPC

AMD a tenu hier sa conférence Advancing AI 2026, accompagnée d'une vingtaine de communiqués officiels détaillant sa nouvelle offre pour l'intelligence artificielle générative et le calcul haute performance. Le constructeur y a présenté deux nouveaux GPU de la gamme Instinct, le MI455X et le MI430X, tous deux bâtis sur l'architecture maison CDNA 5 mais avec des approches différentes selon les usages visés. Le MI455X se distingue par une densité de transistors considérable, 320 milliards, gravée avec le procédé TSMC en 2 nanomètres, ce qui en fait l'une des puces les plus complexes annoncées par AMD à ce jour. Le groupe a également fait le point sur les générations successives de ses baies serveur Helios, conçues pour rivaliser directement avec les baies NVL72 de NVIDIA, ainsi que sur les futures générations de processeurs EPYC en architecture Zen 7 et Zen 8. Ces annonces confirment qu'AMD refuse de se laisser enfermer dans une seule bataille : si la générative AI capte l'essentiel de l'attention et des investissements du marché, le calcul haute performance reste un segment stratégique où le groupe entend maintenir sa présence face à NVIDIA. Pour les datacenters et les opérateurs de supercalculateurs, disposer d'une alternative crédible avec des GPU dédiés au HPC limite la dépendance à un seul fournisseur et peut peser sur les négociations tarifaires. La montée en puissance des baies Helios, pensées comme des concurrentes directes des NVL72, illustre aussi une bataille qui se joue désormais autant au niveau de l'infrastructure complète qu'au niveau de la puce seule. Cette stratégie s'inscrit dans la concurrence de plus en plus frontale entre AMD et NVIDIA sur le terrain de l'IA générative, un marché où NVIDIA conserve une avance très large en parts de marché et en écosystème logiciel. En misant simultanément sur des GPU spécialisés IA, des baies serveur complètes et une feuille de route processeur EPYC renouvelée avec Zen 7 et Zen 8, AMD cherche à proposer une alternative cohérente de bout en bout plutôt qu'un simple composant isolé. Les prochains mois diront si ces annonces se traduisent par des contrats significatifs auprès des grands opérateurs cloud et des centres de calcul scientifique.

InfrastructureActu
1 source
La Corée du Sud dévoile son avenir en IA avec NVIDIA et ses partenaires au Sommet de l'IA
33NVIDIA AI Blog 

La Corée du Sud dévoile son avenir en IA avec NVIDIA et ses partenaires au Sommet de l'IA

Séoul confirme son ambition de devenir un pôle mondial de l'intelligence artificielle. Cette semaine, lors de l'AI Summit organisé à San Francisco, le président sud-coréen Lee Jae-myung ainsi que plusieurs dirigeants d'entreprises et chercheurs coréens de premier plan rencontrent NVIDIA et ses partenaires pour dessiner la feuille de route IA du pays. Ces échanges font suite à la visite en Corée du Sud, le mois dernier, du fondateur et PDG de NVIDIA Jensen Huang. Point d'orgue de cette semaine, NVIDIA et le Korea Advanced Institute of Science and Technology (KAIST) ont annoncé la création d'un laboratoire de recherche conjoint en IA, hébergé à la KAIST Kim Jaechul Graduate School of AI à Séoul. Ce laboratoire, consacré au développement de l'IA agentique pour la Corée du Sud, constitue le tout premier partenariat de ce type entre une université coréenne et une entreprise technologique mondiale. Il combinera l'expertise "full-stack" de NVIDIA, ses modèles ouverts Nemotron et la puissance de calcul de ses partenaires cloud IA, avec le vivier scientifique de la KAIST, l'une des universités de recherche les plus réputées d'Asie. Cette annonce s'inscrit dans une dynamique plus large de rapprochement entre NVIDIA et l'écosystème industriel coréen, avec des retombées concrètes pour l'infrastructure technologique du pays. La veille du sommet, Jensen Huang a dîné à Woodside, en Californie, avec Chey Tae-won, président du groupe SK, ainsi que les équipes de SK hynix, SK Telecom et NVIDIA, célébrant un partenariat de longue date. En juin dernier, NVIDIA et SK avaient déjà annoncé une collaboration élargie pour co-développer des solutions mémoire destinées aux plateformes NVIDIA, couvrant l'infrastructure IA, l'IA personnelle et l'IA physique. Toujours en juin, SK Telecom avait dévoilé son projet de construire une infrastructure IA dédiée à l'innovation coréenne dans les domaines de l'IA physique et de la robotique. Pour l'industrie, ces annonces traduisent la volonté de la Corée du Sud de sécuriser sa place dans la chaîne de valeur mondiale de l'IA, en misant à la fois sur la recherche académique et sur les infrastructures matérielles, deux piliers jugés indispensables pour rivaliser avec les États-Unis et la Chine. Ce mouvement s'inscrit dans la continuité des efforts engagés par Séoul pour transformer son économie, historiquement portée par l'électronique et les semi-conducteurs, en un moteur d'innovation en intelligence artificielle. Le pays s'appuie sur ses champions industriels, notamment le groupe SK et ses filiales spécialisées dans la mémoire, un secteur stratégique pour l'entraînement des grands modèles. La rencontre entre Jensen Huang et le président Lee Jae-myung, ainsi que les discussions entre dirigeants coréens et américains prévues durant le sommet, devraient déboucher sur d'autres annonces dans les prochains jours. Ces initiatives illustrent une tendance de fond: les grandes puissances technologiques nouent des alliances entre universités, gouvernements et fournisseurs de puces pour bâtir rapidement leurs propres capacités en IA agentique et physique, dans un contexte de compétition internationale de plus en plus vive autour des infrastructures d'intelligence artificielle.

InfrastructureActu
1 source
L'ordinateur IA de NVIDIA entre en service à la Naval Postgraduate School
34NVIDIA AI Blog 

L'ordinateur IA de NVIDIA entre en service à la Naval Postgraduate School

Jensen Huang, fondateur et PDG de NVIDIA, s'est rendu au Naval Postgraduate School (NPS) de Monterey, en Californie, pour mettre officiellement en service un système NVIDIA DGX GB300, l'une des plateformes d'intelligence artificielle les plus puissantes au monde. L'événement s'est déroulé dans le cadre de Converge @ NPS, une manifestation de trois jours organisée par cette université supérieure de l'armée américaine. Le supercalculateur, équipé du logiciel NVIDIA Mission Control, donne accès à une puissance de calcul IA sur site aux plus de 1 500 étudiants en résidence et 600 membres du corps enseignant de l'établissement. Il s'appuie sur un centre technologique IA de NVIDIA déjà présent sur le campus de Monterey, désormais structuré autour de cette nouvelle machine. L'amiral Samuel Paparo, commandant du Pacific Command américain, a participé à la cérémonie aux côtés de Huang, soulignant que cette installation permettra d'entraîner des modèles de fondation directement sur place et de faire tourner des simulations à grande échelle. Cette machine vise des applications concrètes pour les forces armées et la recherche appliquée : prévision météorologique, cybersécurité, planification de la résilience et de la réponse aux catastrophes. Pour Huang, l'enjeu dépasse la simple performance technique. Il a insisté sur le fait que l'information et la capacité à l'interpréter rapidement sont devenues des ressources critiques pour les militaires sur le terrain, et que ces outils doivent avant tout servir la mission et les personnes qu'ils protègent. L'amiral Paparo a de son côté averti que dans des environnements de commandement de plus en plus pilotés par l'IA, l'avantage stratégique reviendra à des dirigeants capables d'utiliser ces technologies pour percevoir, comprendre et agir plus vite, tout en conservant un jugement humain que les machines ne peuvent remplacer. Cette inauguration s'inscrit dans une collaboration de longue date entre NVIDIA et NPS, une université qui forme des officiers en service actif et des partenaires internationaux dans des domaines allant des opérations spatiales aux sciences océaniques. NVIDIA a également étoffé son soutien via son Deep Learning Institute, en fournissant aux enseignants des outils pédagogiques pour intégrer l'IA dans les cursus de plusieurs départements. NPS organise régulièrement des hackathons qui ont déjà produit des avancées en autonomie, en recherche océanographique et en planification opérationnelle. Grâce à un partenariat avec l'organisation à but non lucratif MITRE, l'école a aussi développé, à partir des bibliothèques NVIDIA Omniverse, un cadre permettant de créer des jumeaux numériques à haute fidélité pour simuler des environnements réels, un chantier que le nouveau DGX GB300 doit désormais alimenter.

InfrastructureActu
1 source
Anthropic va déployer 2 gigawatts de GPU AMD pour Claude, dans un accord pouvant atteindre 5 milliards de dollars
35The Decoder 

Anthropic va déployer 2 gigawatts de GPU AMD pour Claude, dans un accord pouvant atteindre 5 milliards de dollars

Le géant américain des semi-conducteurs AMD investit jusqu'à 5 milliards de dollars dans Anthropic, dans le cadre d'un accord qui prévoit le déploiement par la start-up de jusqu'à 2 gigawatts de GPU MI450 pour entraîner et faire fonctionner ses modèles Claude. Cette annonce fait suite à une série d'accords similaires signés par AMD ces derniers mois, notamment avec Meta et OpenAI, dans sa tentative de se positionner comme fournisseur alternatif de puces d'intelligence artificielle. Le montant de l'investissement et l'ampleur de la capacité de calcul réservée à Anthropic placent ce partenariat parmi les plus importants du secteur en 2026. Cet accord illustre l'intensification de la course aux infrastructures de calcul entre les grands laboratoires d'IA et les fabricants de puces, chacun cherchant à sécuriser des capacités massives pour entraîner des modèles toujours plus puissants. Pour AMD, il s'agit d'une occasion de démontrer que ses processeurs graphiques peuvent constituer une alternative crédible à ceux de Nvidia, qui domine largement ce marché. Pour Anthropic, cet investissement renforce sa capacité à rivaliser avec OpenAI et Google dans le développement de Claude, tout en diversifiant ses fournisseurs de matériel au-delà de Nvidia. Ce type de montage financier, où un fabricant de puces investit directement dans une entreprise d'IA qui s'engage en retour à acheter son matériel, suscite toutefois des critiques croissantes. Plusieurs observateurs qualifient ces arrangements de flux de trésorerie circulaires, dénonçant un système où l'argent investi finance in fine l'achat des propres produits de l'investisseur, ce qui peut gonfler artificiellement la valorisation des deux parties sans refléter une demande organique. Cette dynamique s'inscrit dans un contexte plus large où les investissements massifs dans les infrastructures d'IA font débat quant à leur soutenabilité à long terme.

UERenforce indirectement la dépendance des acteurs européens du cloud et de l'IA aux infrastructures de calcul américaines, sans impact réglementaire ou économique direct sur la France ou l'UE.

SenseTime lance le projet Galaxy pour renforcer ses puces IA domestiques
36AI News 

SenseTime lance le projet Galaxy pour renforcer ses puces IA domestiques

SenseTime a lancé le Galaxy Project, une initiative associant près de vingt partenaires pour accélérer le déploiement d'infrastructures de calcul IA reposant sur des puces domestiques chinoises. L'annonce a été faite lors d'une keynote intitulée « Intelligent Transformation and Symbiosis » par Yang Fan, cofondateur de SenseTime et président de sa division Large Device Business Group, qui a présenté un système en boucle fermée reliant technologie au niveau des puces, partenariats d'écosystème et déploiement commercial. En parallèle du Galaxy Project, SenseTime a signé un accord de calcul spatial avec le fabricant de satellites Guoxing Aerospace, ainsi qu'un partenariat de recherche avec cinq institutions, dont le Shanghai Artificial Intelligence Laboratory, destiné aux applications de calcul scientifique. Yang Fan justifie ce calendrier par trois tendances convergentes : une demande croissante de tokens dans les déploiements en entreprise, une adoption de l'IA industrielle qui rattrape son retard sur les usages grand public, et une commercialisation des puces domestiques désormais assez mature pour permettre l'installation rapide de centres de calcul intelligents sur silicium chinois. Ces annonces reposent toutefois largement sur des chiffres fournis par SenseTime elle-même, sans validation indépendante. L'entreprise affirme que sa plateforme de grands appareils traite en moyenne 2,42 trillions de tokens par jour, un volume qu'elle projette de multiplier par 25 pour atteindre 10 trillions de tokens quotidiens d'ici le quatrième trimestre 2026, une prévision et non une mesure constatée. SenseTime revendique également, grâce à sa technologie d'inférence hybride hétérogène, une hausse de 85 à 152 % de l'utilisation des FLOPs des modèles sur les puces domestiques courantes, un rapport coût-efficacité d'inférence 1,25 fois supérieur aux puces H-series de Nvidia, et un rendement en tokens 2,5 fois supérieur à coût égal par rapport aux configurations d'inférence homogènes domestiques, un niveau qui franchirait selon elle le seuil de rentabilité jusqu'ici considéré comme minimal pour le calcul domestique. Aucun de ces résultats n'a été vérifié par un tiers, et l'écart entre un cluster de test optimisé et un environnement de production réel, avec ses pipelines de données hétérogènes et ses mises à jour de firmware tardives, est précisément l'endroit où ce type de chiffres a tendance à s'effriter. Les puces IA domestiques chinoises souffrent traditionnellement d'une pile logicielle fragmentée, obligeant à retravailler les modèles pour les faire fonctionner sur des architectures différentes. SenseTime dit avoir construit une couche d'adaptation complète, couvrant modèles, frameworks, opérateurs, chaînes d'outils et matériel, pour permettre aux clients de migrer leurs charges de travail entre fournisseurs de puces domestiques sans réécriture lourde. L'entreprise cite deux cas concrets : une réduction par trois du temps de prédiction dans une tâche de prédiction de protéines à longue séquence grâce à l'optimisation d'opérateurs fusionnés, et un taux d'accélération parallèle multi-cartes de 93 % pour des modèles DiT de génération vidéo sur puces domestiques, avec une migration à coût nul pour les outils de développement IA courants. SenseTime a par ailleurs introduit une nouvelle métrique, les « Tokens Per Watt », censée remplacer les indicateurs classiques d'efficacité énergétique des data centers, associée à un agent de collaboration en puissance de calcul chargé de la planification des ressources, de la prévision du prix de l'électricité et de l'optimisation du stockage d'énergie, au sein d'un système de données à huit niveaux comportant cinq chaînes de décision.

InfrastructureOpinion
1 source
Infinity : comment d’anciens chercheurs d’OpenAI et d’Anthropic veulent transformer l’inférence IA ?
37Le Big Data 

Infinity : comment d’anciens chercheurs d’OpenAI et d’Anthropic veulent transformer l’inférence IA ?

Infinity, une startup fondée il y a moins d'un an par Jeremy Nixon, ancien chercheur chez Google Brain et cofondateur de la communauté AGI House, vient de boucler une levée de fonds de 15 millions de dollars qui porte sa valorisation à 100 millions de dollars. Le tour de table réunit Touring Capital, Principal VC, plusieurs dirigeants de l'industrie des semi-conducteurs ainsi que des chercheurs issus d'OpenAI et d'Anthropic. Plutôt que de développer un nouveau modèle de langage, l'entreprise se concentre sur les logiciels d'inférence, la couche technique qui permet aux puces d'IA d'exploiter pleinement leurs performances. Son produit phare, Ignition, est un agent d'IA capable d'écrire, tester et optimiser automatiquement les noyaux logiciels nécessaires au fonctionnement des modèles sur une nouvelle architecture matérielle. Premier partenariat industriel de la jeune pousse, la collaboration avec le fabricant de puces d-Matrix a permis d'atteindre jusqu'à 92 % des performances théoriques maximales de sa puce Corsair, et ce en seulement dix heures de tests, avant un déploiement de plusieurs modèles récents en une dizaine de jours. Cette avancée s'attaque à un problème central du secteur des semi-conducteurs pour l'IA : de nombreux fabricants conçoivent aujourd'hui des accélérateurs performants, mais peinent à rivaliser avec NVIDIA, dont l'avantage repose autant sur ses GPU que sur son écosystème logiciel CUDA, mûri depuis près de vingt ans. En automatisant un travail d'optimisation qui mobilisait auparavant des équipes d'ingénieurs pendant plusieurs mois voire plusieurs années, Ignition promet de réduire ce délai à quelques jours, les experts conservant la supervision de l'architecture globale pendant que l'agent traite les tâches répétitives. Pour les fabricants de puces alternatives, cela change la donne économique de l'adoption : un environnement logiciel mature devient accessible sans qu'il faille reconstituer, puce par puce, l'écosystème que NVIDIA a mis des années à bâtir. Le modèle économique d'Infinity accompagne cette ambition puisque l'entreprise partage les gains de performance et les économies générées avec ses partenaires, plutôt que de vendre une licence logicielle classique. Cette trajectoire illustre un déplacement plus large dans l'écosystème de l'IA. Après plusieurs années où l'essentiel de l'attention et des capitaux allait au développement des modèles de fondation chez OpenAI, Anthropic ou Google, une nouvelle génération d'entrepreneurs issus de ces mêmes laboratoires se tourne vers les infrastructures qui feront tourner l'IA de demain, plus rapides, moins coûteuses et compatibles avec un plus grand nombre de matériels. Infinity ambitionne ainsi de bâtir une bibliothèque d'inférence universelle, capable de fonctionner sur GPU, puces spécialisées ou autres accélérateurs, avec l'objectif de fragiliser la position dominante de NVIDIA sur le marché des semi-conducteurs pour l'IA.

InfrastructureActu
1 source
Wistron ouvre à Fort Worth une usine de fabrication avancée pour produire des systèmes IA NVIDIA
38NVIDIA AI Blog 

Wistron ouvre à Fort Worth une usine de fabrication avancée pour produire des systèmes IA NVIDIA

Wistron a inauguré aujourd'hui à Fort Worth, au Texas, sa première usine de fabrication aux États-Unis, un site neuf de 324 000 pieds carrés dédié à la production de superpuces destinées aux systèmes d'intelligence artificielle les plus avancés. Jensen Huang, fondateur et PDG de NVIDIA, s'est exprimé lors de la cérémonie d'ouverture aux côtés de Simon Lin, président de Wistron, devant des dirigeants de l'entreprise, des responsables du gouvernement taïwanais et des élus locaux de Fort Worth. L'usine, baptisée D1, exploite actuellement deux cellules de fabrication : l'une produit la superpuce NVIDIA GB300 Grace Blackwell Ultra, l'autre est destinée à la future superpuce NVIDIA Vera Rubin. Le site doit monter en cadence cette année pour atteindre plusieurs dizaines de milliers de cartes produites chaque mois. Ce projet représente un investissement de 700 millions de dollars et a déjà créé plus de 500 emplois au Texas, avec un objectif de 1 000 postes d'ici la fin de l'année. La cérémonie a également marqué la présentation de la toute première superpuce GB300 Grace Blackwell Ultra assemblée sur place, que Jensen Huang a signée de sa main. Cette implantation illustre la volonté de NVIDIA de rapatrier une partie de sa chaîne de production sur le sol américain, l'entreprise s'étant engagée à fabriquer jusqu'à 500 milliards de dollars de plateformes d'IA avancées aux États-Unis. Au-delà des chiffres, Jensen Huang insiste sur la diversité des emplois créés : plomberie, construction, électricité, autant de métiers mobilisés par la construction de ces "usines à IA". Pour NVIDIA, la fabrication devient un pilier stratégique au même titre que la conception des puces elles-mêmes, puisque produire à grande échelle des systèmes aussi complexes, un serveur GB300 comprend environ 1,5 million de pièces, pèse deux tonnes et coûte 4 millions de dollars, exige une base industrielle domestique capable de suivre le rythme d'évolution de la technologie. Simon Lin a de son côté salué une vision qui dépasse le seul secteur industriel pour toucher les communautés locales et le pays dans son ensemble. Point notable, Wistron a conçu et entièrement simulé l'usine avant même le début de la construction, grâce à un jumeau numérique bâti sur la plateforme ouverte de NVIDIA, intégrant les modèles Nemotron et Cosmos, les bibliothèques Omniverse et Metropolis, ainsi que le framework PhysicsNeMo. Cette approche a permis aux ingénieurs de valider virtuellement l'agencement des lignes d'assemblage, d'optimiser les processus de production et de former les employés aux procédures standard avant la mise en service réelle du site. Pour Jensen Huang, ces usines constituent une infrastructure aussi fondamentale pour l'avenir que le furent les routes, l'électricité ou les chemins de fer, un réseau où l'électricité entre d'un côté et les "tokens" d'intelligence artificielle sortent de l'autre. Le dirigeant a par ailleurs accordé des entretiens à Axios et au Dallas Morning News, ce dernier ayant également couvert l'inauguration d'un site concurrent de Coherent le même jour, signe de l'accélération générale des investissements dans la fabrication de matériel d'IA aux États-Unis.

InfrastructureActu
1 source
Weka lance une plateforme de stockage qui met en cache tous les tokens précalculés d'un modèle IA, pour réduire le besoin en GPU
39VentureBeat AI 

Weka lance une plateforme de stockage qui met en cache tous les tokens précalculés d'un modèle IA, pour réduire le besoin en GPU

La société de stockage Weka a lancé NeuralMesh 6, une nouvelle plateforme logicielle accompagnée de sa première ligne de matériel conçue en interne, baptisée Wekapod 3. Cette version étend l'approche "Augmented Memory Grid" de l'entreprise, qui agrège de la mémoire flash NAND pour qu'elle se comporte comme de la mémoire GPU, à une fraction du coût. Selon Liran Zvibel, cofondateur et PDG de Weka, les clients actuels courent avant tout après la disponibilité du calcul : dès qu'ils obtiennent une nouvelle allocation de GPU, ils veulent pouvoir l'exploiter immédiatement. NeuralMesh 6 ajoute quatre fonctions principales. La première combine des clusters composables offrant une isolation matérielle complète et une multi-location virtuelle via le tissu RDMA de Weka, capable de gérer plus de 1 000 locataires par cluster avec un provisionnement en moins de 30 minutes, soit jusqu'à 50 000 locataires pour un cluster regroupant 50 clusters composables. La deuxième unifie le stockage fichier et objet sur une même donnée physique, sans couche de traduction ni copie supplémentaire, une approche que Zvibel dit vouloir déployer chez des clouds GPU hors AWS comme Lambda, Nebius, G42 et CoreWeave, avec des performances environ cent fois supérieures au S3 classique et une tarification basée sur la capacité plutôt que sur les appels API. La troisième, une réplication centrée sur les métadonnées, rend un environnement de destination consultable avant même l'arrivée complète des données, réduisant un processus qui prenait auparavant des jours voire des semaines à environ une heure. La quatrième, AlloyFlash, mélange mémoire flash TLC rapide et QLC moins coûteuse au sein d'un même cluster pour router automatiquement les charges selon leur sensibilité à la latence. L'enjeu est concret : mieux exploiter des investissements GPU coûteux, réduire les coûts d'inférence et accélérer le déploiement de nouvelles charges d'IA sans attendre des mois une capacité GPU supplémentaire. La technologie vise surtout les entreprises qui exploitent déjà l'IA à grande échelle ou anticipent une forte croissance d'usage, notamment celles qui déploient des copilotes internes, des agents de service client, des assistants de développement logiciel ou des systèmes de recherche documentaire à fenêtres de contexte longues. Les déploiements plus modestes, où l'utilisation des GPU n'est pas encore un facteur limitant, devraient en tirer un bénéfice moins immédiat. Ce lancement s'inscrit dans un marché du stockage pour l'IA de plus en plus disputé, où Dell, NetApp, Pure Storage et VAST se sont tous repositionnés vers l'infrastructure IA au cours des deux dernières années. Weka cherche à se démarquer en affirmant avoir conçu sa plateforme spécifiquement pour ce moment, plutôt que de s'y être simplement adaptée après coup, alors que la mémoire GPU s'impose comme la ressource la plus rare et la plus chère de l'IA en production.

InfrastructureActu
1 source
NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde
40NVIDIA AI Blog 

NVIDIA Vera Rubin améliore la performance par watt et réduit le coût par token pour ses partenaires dans le monde

Voici l'article traduit et résumé. NVIDIA a annoncé la montée en production de sa plateforme Vera Rubin NVL72, déployée chez des partenaires majeurs comme CoreWeave, Google Cloud, Microsoft Azure et Oracle Cloud Infrastructure. La chaîne d'approvisionnement s'appuie sur plus de 350 sites industriels répartis dans 30 pays, ce que NVIDIA présente comme la chaîne logistique rack-scale la plus vaste et la plus mature jamais assemblée. Selon un premier benchmark de CoreWeave sur le modèle DeepSeek-R1, la plateforme atteint un débit dix fois supérieur par mégawatt comparé à la génération précédente Grace Blackwell NVL72. Le système repose sur une co-conception poussée de sept puces et cinq plateaux de rack, dont le nouveau CPU Vera doté d'un cœur Olympus offrant deux fois les performances mono-thread, trois fois la bande passante inter-cœurs et une latence mémoire réduite de 40% par rapport aux puces chiplet concurrentes. Côté réseau, l'interconnexion NVLink de sixième génération double le débit sur les charges complexes tout en réduisant la latence par trois, et le réseau Spectrum-X Ethernet, combiné aux commutateurs Spectrum-6 et aux SuperNIC ConnectX-9, apporte 60% de bande passante RDMA supplémentaire face aux solutions Ethernet standards. Cette avancée compte avant tout parce qu'elle s'attaque directement au principal goulot d'étranglement des centres de données d'intelligence artificielle actuels: la consommation électrique. En multipliant par dix le débit par mégawatt, NVIDIA permet aux opérateurs de data centers de traiter davantage de requêtes sans construire de nouvelles centrales ou étendre leurs capacités énergétiques, un enjeu critique alors que la demande en calcul explose. L'architecture sans câbles, ventilateurs ni tuyaux dans les plateaux de calcul réduit le temps d'assemblage de plusieurs heures à une seule minute, tandis que le refroidissement liquide fonctionnant à 45°C en entrée permet un fonctionnement sans réfrigérateur, économisant des millions de litres d'eau par mégawatt chaque année. Des géants comme SpaceX et Tesla figurent parmi les premiers à adopter les commutateurs Spectrum-6, signe que cette technologie dépasse le seul cadre du cloud pour toucher l'IA embarquée et les infrastructures propriétaires. Le contexte européen illustre l'ampleur stratégique de ce déploiement: mardi 21 juillet, NVIDIA a dévoilé un partenariat élargi entre Microsoft et Mistral AI, doté d'un accord pluriannuel évalué en milliards de dollars pour développer les infrastructures IA en Europe. Mistral ajoutera des milliers de GPU Vera Rubin à sa capacité de calcul, créant une plateforme partagée pour l'entraînement et le déploiement de modèles ouverts, tout en donnant aux gouvernements et industries régulées un contrôle accru sur leurs environnements. Cette initiative s'inscrit dans une compétition mondiale où les fabricants de puces cherchent à équiper les hyperscalers tout en répondant aux exigences de souveraineté numérique, un sujet particulièrement sensible en Europe. Avec NVLink Fusion ouvrant également son écosystème aux puces tierces, NVIDIA cherche à consolider sa position d'infrastructure de référence face à une concurrence croissante dans la course aux capacités de calcul IA.

UEMistral AI, entreprise française, va intégrer des milliers de GPU Vera Rubin grâce a un accord pluriannuel avec Microsoft, renforçant les capacités de calcul IA en Europe et la souveraineté numérique des secteurs régulés.

InfrastructureActu
1 source
NVIDIA Spectrum-6, concu pour Vera Rubin, arrive dans les usines a IA a l'echelle gigascale
41NVIDIA AI Blog 

NVIDIA Spectrum-6, concu pour Vera Rubin, arrive dans les usines a IA a l'echelle gigascale

NVIDIA a annoncé le déploiement de Spectrum-6, un système de commutation Ethernet capable d'atteindre 102,4 térabits par seconde, soit le double de la capacité de la génération précédente. Conçu comme un élément central de la plateforme NVIDIA Vera Rubin, ce système s'installe désormais dans les plus grandes usines d'IA du monde, celles qui rassemblent des centaines de milliers de GPU et de CPU pour entraîner des modèles de pointe et faire fonctionner des applications d'IA agentique. Spectrum-6 s'appuie sur une puce de commutation associée à la carte réseau ConnectX-9 SuperNIC, et s'intègre à l'architecture Vera Rubin aux côtés du CPU Vera, du GPU Rubin, du commutateur NVLink 6 et du DPU BlueField-4. Le système prend en charge à la fois l'optique enfichable et l'optique co-packagée, ainsi que le refroidissement liquide, ce qui permet une approche de refroidissement de bout en bout pour l'ensemble de l'infrastructure tout en améliorant l'efficacité énergétique du réseau. Parmi les premiers acteurs à adopter cette technologie figurent CoreWeave, Microsoft, Nebius, SpaceX/xAI et Tesla. Cette évolution répond à un problème devenu central dans l'IA à grande échelle : la performance brute des GPU ne suffit plus à prédire la performance globale d'une usine d'IA. Les charges de travail d'entraînement et d'inférence à grande échelle dépendent de milliers d'accélérateurs qui échangent des données en permanence, via des opérations de communication collective qui synchronisent le travail entre GPU. Or l'Ethernet classique a été conçu pour du trafic nord-sud entre utilisateurs, serveurs et stockage, pas pour ces schémas de communication massivement parallèles. En transformant l'Ethernet en une infrastructure réseau taillée pour l'IA, Spectrum-X promet de maintenir chaque GPU alimenté en données en continu. Pour les fournisseurs cloud, cela signifie pouvoir faire fonctionner davantage de capacité de calcul comme une ressource unifiée et performante, accélérant l'entraînement des modèles et le déploiement des services d'inférence pour leurs clients. Pour les acteurs qui construisent leur propre infrastructure, cela se traduit par plus de GPU synchronisés, une meilleure utilisation lors des opérations collectives intensives et davantage de résilience pour les tâches de longue durée. Selon Min Jun, directeur produit réseau chez CoreWeave, l'intégration de Spectrum-6 et de l'infrastructure Spectrum-X Ethernet à refroidissement liquide doit apporter la bande passante, la résilience et l'efficacité nécessaires pour entraîner des modèles de pointe plus rapidement. Laurelle Roseman, vice-présidente des partenariats mondiaux chez Nebius, souligne qu'à cette échelle, la performance dépend avant tout de la coordination entre GPU, un seul lien lent pouvant bloquer l'ensemble d'une tâche. CoreWeave, Microsoft et Nebius comptent parmi les premiers fournisseurs à déployer une infrastructure basée sur Vera Rubin avec Spectrum-6, ouvrant l'accès à cette plateforme à une large communauté de développeurs, de startups et d'entreprises.

InfrastructureActu
1 source
IREN : pourquoi la demande en infrastructures IA dépasse déjà les capacités disponibles ?
42Le Big Data 

IREN : pourquoi la demande en infrastructures IA dépasse déjà les capacités disponibles ?

Le fournisseur de cloud IA IREN a annoncé le 20 juillet 2026 avoir signé 2,8 milliards de dollars de nouveaux contrats pluriannuels avec des développeurs d'intelligence artificielle. L'entreprise relève dans la foulée son objectif de chiffre d'affaires annuel récurrent (ARR) pour l'IA Cloud, désormais fixé à plus de 4 milliards de dollars d'ici la fin 2026, contre 3,7 milliards précédemment, avec environ 85 % de ce montant déjà sécurisé. Mais l'information la plus significative concerne la demande elle-même : elle dépasse désormais non seulement les capacités actuelles d'IREN, mais aussi celles prévues pour 2026 et 2027. En un an, la capacité de cloud IA développée en interne par l'entreprise est passée d'environ 3 mégawatts (MW) à 480 MW, avec un objectif de 1,2 gigawatt (GW) d'ici 2027. Parmi les clients ayant réservé des capacités figurent Nvidia, Microsoft, Perplexity, Together AI, Figure AI et Fireworks AI. IREN a également commandé pour environ 1,6 milliard de dollars de systèmes Nvidia Blackwell auprès de Dell afin de soutenir cette expansion. Ce niveau de tension confirme l'émergence de ce que le cofondateur d'IREN, Daniel Roberts, décrit comme le time-to-compute : la capacité à obtenir rapidement des GPU devient un avantage concurrentiel à part entière pour les entreprises qui développent des modèles d'IA. Le fait que des clients réservent des capacités avant même leur mise en service illustre l'ampleur de la pénurie. IREN dit rester volontairement sélectif dans l'attribution de ses ressources afin de diversifier sa clientèle, malgré l'afflux continu de demandes venant d'hyperscalers, d'entreprises et de laboratoires de recherche. Signe supplémentaire de cette tension, les nouveaux contrats prévoient des acomptes clients couvrant environ 45 % des dépenses d'investissement liées aux GPU, une pratique encore rare il y a quelques années qui réduit les besoins de financement d'IREN et montre à quel point l'accès au calcul est devenu critique pour l'ensemble de la chaîne. IREN n'est pas un cas isolé : tout le secteur des infrastructures IA fait face aux mêmes contraintes. L'explosion de la demande pour les GPU Nvidia Blackwell pousse les opérateurs à investir massivement dans de nouveaux centres de données, et Nvidia soutient directement le développement de plusieurs gigawatts d'infrastructures avec IREN. Mais les puces ne sont qu'une partie de l'équation : chaque nouveau site nécessite des terrains adaptés, des raccordements électriques capables de fournir plusieurs centaines de mégawatts, et des délais de construction souvent étalés sur plusieurs années, rendant la disponibilité de l'électricité aussi stratégique que celle des processeurs graphiques. Le jour même de l'annonce d'IREN, le concurrent Hut 8 a dévoilé un contrat de 9,8 milliards de dollars pour son campus texan dédié à l'IA, preuve que cette pression sur les capacités touche l'ensemble du marché et non un seul acteur.

InfrastructureOpinion
1 source
Bristol Myers Squibb achète un système IA Nvidia pour la découverte de médicaments
43AI News 

Bristol Myers Squibb achète un système IA Nvidia pour la découverte de médicaments

Bristol Myers Squibb va acquérir un supercalculateur Nvidia DGX SuperPOD reposant sur l'architecture Vera Rubin, tout juste dévoilée cette année par Nvidia comme la relève de sa génération actuelle de systèmes d'intelligence artificielle. Le laboratoire pharmaceutique affirme être la première entreprise du secteur des sciences de la vie à s'équiper d'un DGX SuperPOD basé sur cette architecture. Le nouveau cluster comprendra huit systèmes DGX Vera Rubin NVL72, chacun combinant les processeurs Vera et les puces graphiques Rubin de Nvidia à l'échelle d'un rack complet. Le montant de la transaction n'a pas été communiqué. Cette acquisition vient compléter l'infrastructure Nvidia déjà utilisée par BMS, qui exploite depuis environ trois ans un SuperPOD antérieur, aujourd'hui jugé deux à trois générations en retard par les dirigeants de l'entreprise. Les deux systèmes seront réunis au sein d'un environnement de calcul partagé, accessible depuis l'ensemble des sites de recherche du groupe dans le monde, avec une pile logicielle capable de répartir automatiquement les charges d'entraînement, de prédiction et de développement. Cette montée en puissance répond à une saturation de l'infrastructure actuelle. Erin Davis, vice-présidente en charge des technologies et des données de recherche chez BMS, explique que la demande croissante provient des prédictions à grande échelle sur les grosses molécules ainsi que du développement de modèles de fondation internes. Selon Greg Meyers, directeur digital et technologique de BMS, les besoins en puissance de calcul ont explosé à mesure que l'entreprise déploie des modèles d'IA toujours plus volumineux dans ses équipes de recherche. Concrètement, l'IA intervient désormais dans la conception de tous les programmes portant sur de petites molécules et de la majorité de ceux portant sur de grosses molécules, notamment pour l'identification de cibles thérapeutiques, l'optimisation de candidats médicaments et les prédictions moléculaires. BMS indique que l'identification de cibles assistée par IA a permis de réduire de plusieurs semaines certaines tâches de recherche manuelles. Surtout, l'accès à cette puissance de calcul sera désormais ouvert à l'ensemble de l'organisation de recherche, sans les délais d'attente ni les restrictions d'accès qui limitaient jusqu'ici l'usage aux seuls chercheurs spécialisés en calcul. Robert Plenge, directeur de la recherche chez BMS, illustre l'ampleur du changement attendu : là où l'entreprise pouvait auparavant évaluer une dizaine de candidats médicaments lors des premières étapes de développement, elle pourra désormais en tester des dizaines. Cette capacité s'appuie sur une méthode maison baptisée "Predict First", qui utilise des prédictions générées par des modèles pour écarter en amont les molécules ne répondant pas aux critères requis, avant même leur synthèse en laboratoire. Payal Sheth, vice-présidente senior chargée des sciences de découverte thérapeutique, précise que ces prédictions permettent de prioriser la synthèse des molécules présentant la combinaison de propriétés recherchée, afin de concentrer les expérimentations coûteuses sur les candidats ayant la plus forte probabilité de succès. BMS a également utilisé l'IA pour étoffer sa bibliothèque de composés CELMoD, conçus pour dégrader sélectivement les protéines impliquées dans le développement de cancers.

InfrastructureActu
1 source
Pourquoi Microsoft mise davantage sur AMD pour développer Azure AI ?
44Le Big Data 

Pourquoi Microsoft mise davantage sur AMD pour développer Azure AI ?

Microsoft et AMD ont annoncé le 20 juillet 2026 un élargissement de leur partenariat stratégique pour équiper le cloud Azure. Cet accord porte sur l'intégration de la plateforme AMD Helios, qui combine les futurs GPU Instinct MI455X, les processeurs EPYC de sixième génération portant le nom de code « Venice », les unités de traitement de données (DPU) Pensando et la pile logicielle ROCm. Microsoft prévoit de déployer cette infrastructure dès le second semestre 2026, aussi bien pour ses propres services Azure AI que pour les charges de travail de ses clients entreprises. Trois nouvelles familles de machines virtuelles verront le jour : les instances HDv2, pensées pour les pipelines de données, l'apprentissage par renforcement et les systèmes d'agents autonomes ; les HXv2, dédiées aux simulations scientifiques, au calcul technique et à la conception de semi-conducteurs ; et les ND MI455X v7, qui s'appuieront directement sur Helios pour accélérer l'inférence des modèles d'IA en production. Cette annonce marque un tournant dans la manière dont Microsoft envisage l'infrastructure de son cloud. L'entreprise ne se contente plus d'ajouter de nouvelles puces à son catalogue : elle réorganise l'architecture d'Azure autour de plusieurs technologies complémentaires plutôt que d'une solution unique. Pour les entreprises clientes, cela signifie un accès à des machines virtuelles calibrées selon la nature exacte de leurs projets, qu'il s'agisse d'entraîner des modèles, de faire tourner des agents IA ou de préparer des données à grande échelle. Cette diversification matérielle limite aussi la dépendance de Microsoft à un fournisseur unique de puces, un enjeu stratégique et économique majeur dans un marché du cloud où la demande de calcul pour l'IA continue de croître fortement. Ce rapprochement s'inscrit dans un contexte de concurrence croissante entre fournisseurs d'infrastructures IA, où la position dominante de Nvidia pousse les géants du cloud à multiplier leurs sources d'approvisionnement. Plusieurs acteurs développent déjà leurs propres puces maison, tandis que d'autres, comme Microsoft, choisissent de renforcer leurs liens avec des partenaires établis comme AMD pour diversifier leur offre. En intégrant l'ensemble de la chaîne, des GPU aux réseaux en passant par les processeurs et les logiciels, Microsoft cherche à sécuriser sa capacité à répondre aux besoins futurs de ses clients, qu'il s'agisse de laboratoires de recherche entraînant des modèles de fondation ou d'entreprises déployant des applications d'IA générative en production. Les prochains mois, avec les premières livraisons attendues fin 2026, permettront de mesurer concrètement l'impact de cette stratégie sur les performances et les coûts proposés aux clients d'Azure.

UELes entreprises européennes clientes d'Azure pourront a terme accéder a cette nouvelle infrastructure GPU/CPU, mais aucune entreprise ou réglementation française ou européenne n'est directement impliquée.

InfrastructureActu
1 source
Google prépare lui aussi une puce IA pour faire tourner Gemini bien plus efficacement
45Le Big Data 

Google prépare lui aussi une puce IA pour faire tourner Gemini bien plus efficacement

Google développe une nouvelle puce IA en interne, baptisée « Frozen v2 », spécialement conçue pour faire tourner ses modèles Gemini, selon un rapport de The Information publié le 20 juillet 2026. Ce processeur pour serveurs viendrait compléter, et non remplacer, les TPU déjà utilisés par l'entreprise. Son originalité tiendrait à l'intégration directe de certains éléments de l'architecture de Gemini dans le matériel lui-même, réduisant ainsi la dépendance du modèle aux seuls logiciels. D'après les estimations internes citées dans le rapport, cette puce pourrait générer entre six et dix fois plus de tokens pour une même consommation d'énergie que les TPU les plus récents de Google. Un porte-parole de Google Cloud a confirmé que les équipes travaillaient à concevoir conjointement du matériel et des logiciels pour obtenir des systèmes « hautement optimisés », sans toutefois valider les détails précis du projet. Le déploiement de Frozen v2 ne serait pas attendu avant 2028, les ingénieurs devant encore trancher sur la conception finale et sur la part du modèle directement gravée dans le silicium. Cette initiative répond à une pression bien concrète sur les infrastructures de Google. La demande en puissance de calcul pour faire tourner Gemini serait telle qu'elle aurait déjà provoqué des tensions internes, poussant Google Cloud à refuser certains contrats avec des clients externes faute de ressources disponibles. Une puce plus efficace permettrait de traiter davantage de requêtes sans augmenter la consommation énergétique ni multiplier les centres de données, un enjeu de plus en plus critique à mesure que les modèles d'IA generatifs gagnent en taille et en gourmandise. Pour les utilisateurs de Gemini comme pour les clients de Google Cloud, cela pourrait se traduire par une meilleure disponibilité du service et, potentiellement, des coûts d'exploitation réduits à terme. Cette course au matériel sur mesure dépasse largement le seul cas de Google. Nvidia domine aujourd'hui le marché des puces IA, mais plusieurs géants technologiques cherchent à réduire leur dépendance à ce fournisseur unique en développant leurs propres processeurs adaptés à leurs modèles. Amazon a ses puces Trainium et Inferentia, Microsoft son Maia, et Meta développe également ses propres accélérateurs. En misant sur une architecture pensée main dans la main avec Gemini, Google cherche à sécuriser son approvisionnement tout en gagnant un avantage compétitif sur l'efficacité énergétique, un critère de plus en plus déterminant à mesure que les data centers dédiés à l'IA consomment des quantités croissantes d'électricité. Rien ne garantit cependant que le projet aboutira dans les termes décrits, et l'horizon 2028 laisse une marge importante avant toute confirmation industrielle.

InfrastructureActu
1 source
Le puce "Frozen v2" de Google intégrerait directement l'architecture de Gemini dans le silicium pour des gains d'efficacité
46The Decoder 

Le puce "Frozen v2" de Google intégrerait directement l'architecture de Gemini dans le silicium pour des gains d'efficacité

Google développerait actuellement un nouveau processeur baptisé « Frozen v2 », conçu pour intégrer directement l'architecture de son modèle Gemini au niveau du silicium. Selon des sources internes citées par The Decoder, cette puce serait de 6 à 10 fois plus efficace que les TPU actuels de l'entreprise. Son lancement serait prévu pour 2028, ce qui laisse à Google plusieurs années de développement avant une mise en production à grande échelle. Cette approche marquerait un tournant stratégique majeur pour Google dans la course à l'intelligence artificielle. En gravant directement l'architecture de Gemini dans le matériel plutôt que de s'appuyer sur des puces génériques, l'entreprise pourrait considérablement réduire ses coûts d'inférence, c'est-à-dire les coûts liés à l'exécution des modèles d'IA une fois entraînés. Un tel gain d'efficacité permettrait potentiellement à Google de proposer ses services d'IA à des prix inférieurs à ceux d'OpenAI et d'Anthropic, ses principaux concurrents, tout en préservant ses marges. Cette stratégie s'inscrit dans une tendance de fond de l'industrie : les géants technologiques cherchent de plus en plus à concevoir leurs propres puces spécialisées plutôt que de dépendre de fournisseurs comme Nvidia. Google dispose déjà d'une expertise reconnue avec ses TPU (Tensor Processing Units), développés en interne depuis plusieurs années. En poussant cette logique plus loin avec une puce pensée spécifiquement pour Gemini, l'entreprise viserait un avantage structurel durable sur les coûts, un enjeu central alors que la rentabilité des modèles d'IA générative reste un défi majeur pour l'ensemble du secteur, y compris pour ses rivaux directs.

Couchbase construit une architecture IA multi-modèle pour Capella iQ avec Amazon Bedrock
47AWS ML Blog 

Couchbase construit une architecture IA multi-modèle pour Capella iQ avec Amazon Bedrock

Le fournisseur de bases de données Couchbase a fait évoluer son assistant de développement Capella iQ pour s'appuyer sur Amazon Bedrock et la famille de modèles Claude d'Anthropic, en remplacement d'une architecture d'inférence à modèle unique. Le projet, décrit dans un billet co-écrit avec Tushar Madaan de Couchbase, repose sur une infrastructure déployée sur deux régions AWS, us-east-1 et us-west-2, afin de garantir une haute disponibilité. Un cluster Amazon EKS héberge trois microservices clés dans us-east-1 : cp-api, qui reçoit les requêtes des développeurs et orchestre les appels d'inférence ; cp-internal-api, qui gère la communication interne et la logique de routage des modèles ; et cp-ns, qui gère la configuration au niveau des espaces de noms, notamment les préférences de fournisseur de modèles par client. Un point de terminaison d'interface VPC assure une connectivité privée entre ce cluster et le runtime d'Amazon Bedrock, permettant d'exploiter l'inférence multi-région (Cross-Region Inference, ou CRIS) sur trois régions américaines : us-east-1, us-east-2 et us-west-2. Cette bascule répond à un besoin très concret de résilience opérationnelle et de flexibilité pour les grandes entreprises clientes de Couchbase. En s'appuyant sur l'inférence multi-région d'Amazon Bedrock, Capella iQ peut absorber des pics de trafic soudains et basculer automatiquement vers une région disponible en cas de dégradation, sans capacité pré-provisionnée et sans logique applicative supplémentaire à gérer côté Couchbase. Autre point important pour les clients entreprise : l'intégralité du trafic d'inférence, prompts et réponses inclus, transite exclusivement par l'infrastructure privée d'AWS et ne passe jamais par l'internet public, ce qui répond aux exigences de sécurité et de résidence des données propres à ce type de clientèle. Concrètement, quand un développeur demande à Capella iQ de générer une requête SQL++, de recommander un index ou de poursuivre une conversation multi-tours, le pod cp-api authentifie la demande, récupère le contexte de session, construit le prompt en intégrant l'historique de conversation, puis transmet l'appel via le point de terminaison VPC vers Bedrock, avant de renvoyer la réponse normalisée au développeur. Cette évolution s'inscrit dans la tendance plus large des éditeurs de logiciels d'entreprise à adopter des architectures d'inférence agnostiques par rapport au modèle, plutôt que de rester dépendants d'un unique fournisseur de LLM. Face à la croissance de l'adoption de Capella iQ, Couchbase avait besoin d'un système capable de s'adapter aux préférences de déploiement variées de ses clients tout en conservant une infrastructure scalable et robuste. Le choix d'Amazon Bedrock comme couche d'inférence permet à Couchbase de bénéficier directement des capacités de basculement régional et de répartition de charge gérées par AWS, sans avoir à développer cette logique en interne. Cette approche illustre aussi comment les modèles Claude d'Anthropic s'intègrent de plus en plus dans des produits d'infrastructure de données critiques, où la fiabilité, la confidentialité des données et la conformité pèsent autant que la qualité pure des réponses générées.

InfrastructureActu
1 source
Nvidia perd du terrain sur les puces IA : Microsoft se tourne vers AMD, et Anthropic pourrait suivre
48The Decoder 

Nvidia perd du terrain sur les puces IA : Microsoft se tourne vers AMD, et Anthropic pourrait suivre

Microsoft élargit l'infrastructure IA d'Azure en intégrant Helios, la nouvelle plateforme d'AMD, qui doit concurrencer directement les systèmes GPU de Nvidia à partir du second semestre 2026. Cette annonce marque un tournant dans la stratégie d'approvisionnement en puces du géant du cloud, jusqu'ici très dépendant de Nvidia pour ses charges de travail liées à l'intelligence artificielle. Un profil GitHub public suggère par ailleurs qu'Anthropic teste également du matériel AMD, ce qui indique que l'entreprise pourrait suivre le mouvement amorcé par Microsoft et diversifier ses propres fournisseurs de calcul. Cette évolution représente une pression supplémentaire sur le pouvoir de fixation des prix de Nvidia, qui domine largement le marché des puces dédiées à l'entraînement et à l'inférence des modèles d'IA. Pour les grands fournisseurs de cloud et les laboratoires d'IA, disposer d'une alternative crédible comme AMD permet de négocier de meilleurs tarifs et de réduire la dépendance à un fournisseur unique, un enjeu stratégique majeur compte tenu des sommes colossales investies dans les infrastructures de calcul. Pour les utilisateurs finaux, une concurrence accrue pourrait à terme se traduire par une baisse des coûts d'accès aux services d'IA hébergés sur le cloud. Ce mouvement s'inscrit dans un contexte plus large où les grands acteurs technologiques cherchent à diversifier leurs sources d'approvisionnement en puces, face à la demande explosive de capacité de calcul pour l'IA générative et aux tensions sur les chaînes d'approvisionnement. Nvidia reste pour l'instant le leader incontesté du marché, mais l'arrivée de plateformes concurrentes crédibles comme Helios d'AMD, combinée à l'intérêt manifesté par des clients de poids comme Microsoft et potentiellement Anthropic, pourrait redessiner les rapports de force dans les prochaines années et inciter d'autres acteurs à suivre cette diversification.

InfrastructureActu
1 source
Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement
49The Information AI 

Google prévoit une nouvelle puce « Frozen » pour exécuter ses modèles d'IA bien plus efficacement

Google prépare une nouvelle puce serveur qui intégrerait directement l'architecture de son modèle d'intelligence artificielle Gemini, afin de faire fonctionner ses modèles de façon beaucoup plus efficace, selon deux personnes proches du dossier. Ce processeur, surnommé en interne "Frozen v2", vise à répondre à une pénurie importante de capacité de calcul IA, une situation qui a généré des tensions internes chez Google et contraint Google Cloud à refuser des contrats avec des clients externes. Les équipes travaillant sur ce projet estiment que la puce pourrait être six à dix fois plus efficace que la dernière génération de puces IA maison de Google, mesurée en nombre de tokens (l'unité de base de consommation d'un modèle d'IA) traités par unité d'énergie consommée. Cette avancée serait déterminante pour l'activité cloud de Google, confrontée à une demande croissante qu'elle peine actuellement à satisfaire. Une puce nettement plus économe en énergie permettrait de servir davantage d'utilisateurs et d'entreprises clientes sans multiplier les investissements en infrastructure, tout en réduisant les coûts d'exploitation liés à l'IA. Cela renforcerait aussi la position de Google face à ses concurrents dans la course aux semi-conducteurs spécialisés, où la disponibilité de puces performantes est devenue un facteur clé de compétitivité. Ce projet s'inscrit dans la lignée des puces maison de Google, conçues depuis plusieurs années pour réduire sa dépendance aux fabricants externes comme Nvidia. La spécificité de "Frozen v2" est d'intégrer directement le modèle Gemini dans la conception matérielle, une approche de co-conception censée maximiser les gains d'efficacité. Cette pénurie de capacité de calcul touche l'ensemble du secteur, où Google, Microsoft, Amazon et OpenAI se disputent des ressources limitées pour entraîner et déployer leurs modèles à grande échelle.

UELes entreprises européennes clientes de Google Cloud pourraient bénéficier indirectement d'une meilleure disponibilité de capacité de calcul IA si cette puce réduit la pénurie actuelle.

InfrastructureActu
1 source
Nokia et Taiwan Mobile misent sur des réseaux 5G autonomes pilotés par l’IA
50Le Big Data 

Nokia et Taiwan Mobile misent sur des réseaux 5G autonomes pilotés par l’IA

Nokia et Taiwan Mobile ont annoncé le 14 juillet 2026 l'extension de leur partenariat pour moderniser le réseau 5G taïwanais et accélérer le déploiement de réseaux dits autonomes, capables de s'optimiser et de se réparer eux-mêmes grâce à l'intelligence artificielle. Concrètement, Nokia va fournir à l'opérateur sa plateforme radio AirScale ainsi que de nouveaux équipements de bande de base, en vue d'augmenter la capacité du réseau et de préparer l'arrivée de la 5G-Advanced. La nouveauté principale tient toutefois à l'intégration de l'IA à chaque étape du cycle de vie du réseau : des outils d'analyse prédictive permettront d'anticiper des pannes matérielles avant qu'elles n'affectent les utilisateurs, tandis que le logiciel MantaRay SON de Nokia ajustera automatiquement les paramètres réseau pour en optimiser les performances, sans intervention humaine. Des mécanismes d'auto-réparation et de gestion dynamique du trafic viennent compléter le dispositif pour renforcer la résilience face aux incidents. Cette annonce marque un changement de priorité pour l'ensemble des opérateurs télécoms. Pendant des années, l'effort a surtout porté sur l'extension de la couverture et l'augmentation des débits. Aujourd'hui, la multiplication des objets connectés, des usages industriels, du cloud et des applications d'IA fait exploser la quantité de données à traiter et le nombre de paramètres à piloter en temps réel, un défi que la seule intervention humaine ne peut plus absorber. Automatiser la détection des pannes et l'optimisation des performances permet donc de réduire les coûts opérationnels tout en améliorant la qualité de service perçue par les utilisateurs. L'IA sera aussi mobilisée pour réduire la consommation énergétique des équipements, en adaptant leur fonctionnement au trafic réel, ce qui s'inscrit dans les objectifs ESG affichés par Taiwan Mobile. Pour Nokia, ce type de partenariat est aussi une vitrine commerciale destinée à démontrer la maturité de ses solutions auprès d'autres opérateurs dans le monde. Cette évolution s'inscrit dans une dynamique plus large portée par l'industrie des télécommunications. Le TM Forum, organisme de référence du secteur, a défini un modèle de maturité des réseaux autonomes qui sert aujourd'hui de feuille de route à de nombreux opérateurs, décrivant plusieurs paliers d'automatisation jusqu'à des infrastructures capables de prendre certaines décisions opérationnelles sous supervision humaine. Taiwan Mobile et Nokia se positionnent ainsi parmi les premiers à avancer concrètement sur cette trajectoire en Asie, dans un contexte de concurrence mondiale entre équipementiers télécoms pour équiper les réseaux de la prochaine génération. Les prochaines étapes attendues concernent le déploiement effectif de ces outils sur le terrain, puis leur montée en autonomie progressive à mesure que les algorithmes gagneront en fiabilité et en capacité de décision.

UENokia, entreprise finlandaise, pourrait proposer ces mêmes solutions de réseaux autonomes aux opérateurs télécoms européens, mais aucun déploiement concret n'est annonce en France ou en UE.

InfrastructureActu
1 source