Aller au contenu principal

Dossier NVIDIA — page 5

954 articles · page 5 sur 20

NVIDIA, l'arsenal de la course IA : Blackwell, Vera Rubin, Vera CPU, partenariats hyperscalers, Omniverse, et la rente CUDA face aux puces Huawei et Trainium.

La Corée du Sud dévoile son avenir en IA avec NVIDIA et ses partenaires au Sommet de l'IA
201NVIDIA AI Blog InfrastructureActu

La Corée du Sud dévoile son avenir en IA avec NVIDIA et ses partenaires au Sommet de l'IA

Séoul confirme son ambition de devenir un pôle mondial de l'intelligence artificielle. Cette semaine, lors de l'AI Summit organisé à San Francisco, le président sud-coréen Lee Jae-myung ainsi que plusieurs dirigeants d'entreprises et chercheurs coréens de premier plan rencontrent NVIDIA et ses partenaires pour dessiner la feuille de route IA du pays. Ces échanges font suite à la visite en Corée du Sud, le mois dernier, du fondateur et PDG de NVIDIA Jensen Huang. Point d'orgue de cette semaine, NVIDIA et le Korea Advanced Institute of Science and Technology (KAIST) ont annoncé la création d'un laboratoire de recherche conjoint en IA, hébergé à la KAIST Kim Jaechul Graduate School of AI à Séoul. Ce laboratoire, consacré au développement de l'IA agentique pour la Corée du Sud, constitue le tout premier partenariat de ce type entre une université coréenne et une entreprise technologique mondiale. Il combinera l'expertise "full-stack" de NVIDIA, ses modèles ouverts Nemotron et la puissance de calcul de ses partenaires cloud IA, avec le vivier scientifique de la KAIST, l'une des universités de recherche les plus réputées d'Asie. Cette annonce s'inscrit dans une dynamique plus large de rapprochement entre NVIDIA et l'écosystème industriel coréen, avec des retombées concrètes pour l'infrastructure technologique du pays. La veille du sommet, Jensen Huang a dîné à Woodside, en Californie, avec Chey Tae-won, président du groupe SK, ainsi que les équipes de SK hynix, SK Telecom et NVIDIA, célébrant un partenariat de longue date. En juin dernier, NVIDIA et SK avaient déjà annoncé une collaboration élargie pour co-développer des solutions mémoire destinées aux plateformes NVIDIA, couvrant l'infrastructure IA, l'IA personnelle et l'IA physique. Toujours en juin, SK Telecom avait dévoilé son projet de construire une infrastructure IA dédiée à l'innovation coréenne dans les domaines de l'IA physique et de la robotique. Pour l'industrie, ces annonces traduisent la volonté de la Corée du Sud de sécuriser sa place dans la chaîne de valeur mondiale de l'IA, en misant à la fois sur la recherche académique et sur les infrastructures matérielles, deux piliers jugés indispensables pour rivaliser avec les États-Unis et la Chine. Ce mouvement s'inscrit dans la continuité des efforts engagés par Séoul pour transformer son économie, historiquement portée par l'électronique et les semi-conducteurs, en un moteur d'innovation en intelligence artificielle. Le pays s'appuie sur ses champions industriels, notamment le groupe SK et ses filiales spécialisées dans la mémoire, un secteur stratégique pour l'entraînement des grands modèles. La rencontre entre Jensen Huang et le président Lee Jae-myung, ainsi que les discussions entre dirigeants coréens et américains prévues durant le sommet, devraient déboucher sur d'autres annonces dans les prochains jours. Ces initiatives illustrent une tendance de fond: les grandes puissances technologiques nouent des alliances entre universités, gouvernements et fournisseurs de puces pour bâtir rapidement leurs propres capacités en IA agentique et physique, dans un contexte de compétition internationale de plus en plus vive autour des infrastructures d'intelligence artificielle.

1 source
L'article valide des benchmarks de service LLM distribué avec NVIDIA srt-slurm, des recettes SLURM, des balayages de paramètres et une analyse de Pareto
202MarkTechPost 

L'article valide des benchmarks de service LLM distribué avec NVIDIA srt-slurm, des recettes SLURM, des balayages de paramètres et une analyse de Pareto

Voici la traduction/résumé en français, sans titres ni tirets cadratins. NVIDIA a publié srt-slurm, un framework open source qui permet de transformer des configurations YAML déclaratives en workflows SLURM reproductibles pour le déploiement de grands modèles de langage distribués. L'outil en ligne de commande, srtctl, orchestre l'ensemble du processus : génération de scripts sbatch, gestion des recettes de benchmark prêtes à l'emploi, et interaction avec une API Python typée. Un tutoriel récent montre comment installer le projet directement dans Google Colab, en clonant le dépôt GitHub et en l'exécutant en mode éditable, avant d'explorer son architecture interne organisée en modules distincts : cli pour les commandes d'application et de simulation, core pour les schémas de configuration et la génération SLURM, backends pour les adaptateurs de moteurs d'inférence comme SGLang, TensorRT-LLM et vLLM, et analysis pour un tableau de bord Streamlit dédié à l'analyse des résultats. Le tutoriel détaille ensuite la création d'un fichier de configuration de cluster définissant les comptes, partitions, limites de temps, conteneurs et chemins de modèles, avant de modéliser un déploiement dissocié de type prefill-and-decode pour DeepSeek-R1, l'un des modèles de raisonnement open source les plus utilisés actuellement. Cette démarche répond à un besoin concret des équipes qui déploient des modèles de langage à grande échelle sur des clusters GPU : pouvoir valider et affiner leurs configurations de benchmark avant de les soumettre à une infrastructure de production coûteuse à mobiliser. En permettant de générer des balayages de paramètres (parameter sweeps), de valider les configurations étendues et d'analyser les résultats simulés via une analyse de frontière de Pareto opposant débit et latence, srt-slurm réduit le risque d'erreurs coûteuses lors du passage à l'échelle réelle. Pour les équipes MLOps et les fournisseurs de cloud GPU, cela représente un gain de temps significatif dans l'optimisation des déploiements d'inférence distribuée, un enjeu central alors que les coûts de calcul liés aux modèles de raisonnement comme DeepSeek-R1 continuent d'augmenter. Ce projet s'inscrit dans la tendance plus large de NVIDIA à outiller l'écosystème de l'inférence distribuée, aux côtés de son framework Dynamo pour le routage de requêtes entre nœuds. Le choix de Google Colab comme environnement de démonstration est révélateur : bien que Colab ne dispose pas d'un véritable environnement SLURM, il sert d'espace de développement pratique pour comprendre et préparer des recettes de benchmark de qualité production. Cette approche pourrait faciliter l'adoption de srt-slurm par des équipes ne disposant pas encore d'un accès direct à un cluster SLURM, en abaissant la barrière à l'entrée avant un déploiement réel sur des GPU comme les gammes H100, B200 ou GB200 de NVIDIA.

OutilsOutil
1 source
Anthropic mise sur les robots, Nvidia accélère avec Vera Rubin
203The Information AI 

Anthropic mise sur les robots, Nvidia accélère avec Vera Rubin

Le week-end dernier, le blogueur tech Robert Scoble a affirmé qu'Anthropic était en train de racheter Physical Intelligence, une entreprise spécialisée dans les logiciels de robotique IA qui négociait récemment une levée de fonds valorisant la société à 11 milliards de dollars. Cette annonce a enflammé X, mais elle s'est révélée en partie inexacte. Karol Hausman, PDG de Physical Intelligence, a démenti l'information auprès de ses employés sur Slack, en partageant un gif tiré de la série The Office montrant un personnage secouer la tête en signe de négation, selon une personne ayant vu le message. La rumeur n'était toutefois pas totalement infondée : Anthropic et Physical Intelligence ont bien entamé des discussions préliminaires de rachat au printemps dernier, sans que celles-ci n'aboutissent, d'après une source proche des dirigeants de Physical Intelligence. Un tel rapprochement pourrait surprendre, Anthropic s'étant jusqu'ici concentrée sur le développement d'IA pour le code et les entreprises plutôt que sur la robotique physique. L'hypothèse n'est pourtant pas absurde : une partie de la communauté des chercheurs en IA estime qu'un système ne peut prétendre à une véritable superintelligence sans comprendre les lois physiques du monde réel. Même après avoir ingéré la quasi-totalité des textes disponibles sur internet, les grands modèles de langage continuent de peiner sur des tâches élémentaires de raisonnement spatial, faute d'expérience concrète du monde physique. Cet épisode illustre un enjeu plus large pour l'industrie de l'IA : le passage du texte et du code vers l'incarnation physique des modèles, à travers la robotique, apparaît de plus en plus comme la prochaine frontière pour les laboratoires les plus ambitieux. Physical Intelligence, déjà soutenue par des investisseurs de premier plan et valorisée à plusieurs milliards de dollars, reste un acteur clé de ce secteur émergent. Que des discussions aient eu lieu avec Anthropic, même sans suite, suggère que les grands laboratoires d'IA générale surveillent de près les acquisitions dans la robotique, un domaine où la compétition pourrait s'intensifier dans les prochains mois.

BusinessActu
1 source
NVIDIA Spectrum-6, concu pour Vera Rubin, arrive dans les usines a IA a l'echelle gigascale
204NVIDIA AI Blog 

NVIDIA Spectrum-6, concu pour Vera Rubin, arrive dans les usines a IA a l'echelle gigascale

NVIDIA a annoncé le déploiement de Spectrum-6, un système de commutation Ethernet capable d'atteindre 102,4 térabits par seconde, soit le double de la capacité de la génération précédente. Conçu comme un élément central de la plateforme NVIDIA Vera Rubin, ce système s'installe désormais dans les plus grandes usines d'IA du monde, celles qui rassemblent des centaines de milliers de GPU et de CPU pour entraîner des modèles de pointe et faire fonctionner des applications d'IA agentique. Spectrum-6 s'appuie sur une puce de commutation associée à la carte réseau ConnectX-9 SuperNIC, et s'intègre à l'architecture Vera Rubin aux côtés du CPU Vera, du GPU Rubin, du commutateur NVLink 6 et du DPU BlueField-4. Le système prend en charge à la fois l'optique enfichable et l'optique co-packagée, ainsi que le refroidissement liquide, ce qui permet une approche de refroidissement de bout en bout pour l'ensemble de l'infrastructure tout en améliorant l'efficacité énergétique du réseau. Parmi les premiers acteurs à adopter cette technologie figurent CoreWeave, Microsoft, Nebius, SpaceX/xAI et Tesla. Cette évolution répond à un problème devenu central dans l'IA à grande échelle : la performance brute des GPU ne suffit plus à prédire la performance globale d'une usine d'IA. Les charges de travail d'entraînement et d'inférence à grande échelle dépendent de milliers d'accélérateurs qui échangent des données en permanence, via des opérations de communication collective qui synchronisent le travail entre GPU. Or l'Ethernet classique a été conçu pour du trafic nord-sud entre utilisateurs, serveurs et stockage, pas pour ces schémas de communication massivement parallèles. En transformant l'Ethernet en une infrastructure réseau taillée pour l'IA, Spectrum-X promet de maintenir chaque GPU alimenté en données en continu. Pour les fournisseurs cloud, cela signifie pouvoir faire fonctionner davantage de capacité de calcul comme une ressource unifiée et performante, accélérant l'entraînement des modèles et le déploiement des services d'inférence pour leurs clients. Pour les acteurs qui construisent leur propre infrastructure, cela se traduit par plus de GPU synchronisés, une meilleure utilisation lors des opérations collectives intensives et davantage de résilience pour les tâches de longue durée. Selon Min Jun, directeur produit réseau chez CoreWeave, l'intégration de Spectrum-6 et de l'infrastructure Spectrum-X Ethernet à refroidissement liquide doit apporter la bande passante, la résilience et l'efficacité nécessaires pour entraîner des modèles de pointe plus rapidement. Laurelle Roseman, vice-présidente des partenariats mondiaux chez Nebius, souligne qu'à cette échelle, la performance dépend avant tout de la coordination entre GPU, un seul lien lent pouvant bloquer l'ensemble d'une tâche. CoreWeave, Microsoft et Nebius comptent parmi les premiers fournisseurs à déployer une infrastructure basée sur Vera Rubin avec Spectrum-6, ouvrant l'accès à cette plateforme à une large communauté de développeurs, de startups et d'entreprises.

InfrastructureActu
1 source
Amazon lance un outil pour créer des workflows d'agents spécialisés avec NVIDIA NeMo Agent Toolkit
205AWS ML Blog 

Amazon lance un outil pour créer des workflows d'agents spécialisés avec NVIDIA NeMo Agent Toolkit

Amazon Web Services et NVIDIA ont présenté une architecture combinant Amazon Quick et le NeMo Agent Toolkit pour permettre aux entreprises de construire des workflows d'agents spécialisés destinés aux équipes métier. L'exemple choisi concerne la gestion des risques dans la chaîne d'approvisionnement : lorsqu'un fournisseur prend du retard, un planificateur doit habituellement vérifier manuellement les bons de commande, les stocks, les engagements clients, les règles contractuelles, les options logistiques et les politiques d'approbation avant de décider d'une action. Dans cette solution, Amazon Quick sert d'interface conversationnelle unique pour les utilisateurs métier, connectée à des sources de données structurées et non structurées comme Amazon S3, Google Drive, Microsoft SharePoint ou Atlassian Confluence, ainsi qu'à plus de 100 connecteurs préconstruits vers des outils tiers tels que Microsoft Outlook, Slack, Jira et Asana. Le NeMo Agent Toolkit, bibliothèque open source et agnostique vis-à-vis des frameworks développée par NVIDIA, prend en charge la partie backend : il enregistre les outils, orchestre l'investigation de la chaîne d'approvisionnement, capture les traces d'exécution et permet d'évaluer et de profiler les workflows. Il fonctionne aux côtés de frameworks populaires comme LangChain, LlamaIndex, CrewAI, Microsoft Semantic Kernel ou Google ADK. Amazon Bedrock AgentCore fait le lien entre les deux, en fournissant la passerelle MCP (Model Context Protocol) ainsi que l'environnement d'exécution qui héberge le workflow du NeMo Agent Toolkit. Cette architecture répond à un problème très concret pour les équipes supply chain : les tableaux de bord permettent de repérer qu'un problème existe, mais rarement de transformer ce signal en une décision fiable et documentée. Avec ce système, un analyste peut poser des questions de diagnostic directement dans Amazon Quick, qui interroge alors le workflow d'agents pour obtenir un plan de mitigation classé par priorité, accompagné des preuves justifiant chaque recommandation. Pour les responsables des opérations supply chain, cela signifie passer d'un simple constat visuel à une décision actionnable sans quitter l'outil qu'ils utilisent déjà au quotidien. Pour les startups en forte croissance, l'intérêt est encore plus direct : à mesure que le volume de commandes, le nombre de fournisseurs et les engagements clients augmentent, la même architecture peut soutenir des décisions plus rapides et reproductibles sans qu'il soit nécessaire d'agrandir les équipes de planification. Sur le plan technique, l'un des apports majeurs du NeMo Agent Toolkit est l'observabilité qu'il apporte aux workflows agentiques, avec de la télémétrie, une mesure de la latence à chaque étape et des résultats d'évaluation permettant d'ajuster les outils et la logique d'orchestration. Cette dimension devient de plus en plus stratégique à mesure que les entreprises évoluent de simples assistants conversationnels vers des workflows d'agents plus complexes, capables d'enchaîner plusieurs étapes de raisonnement et d'action. L'architecture proposée illustre ainsi une tendance de fond chez les grands fournisseurs cloud : séparer clairement l'interface destinée aux utilisateurs métier, portée par des outils comme Amazon Quick, de la couche d'orchestration des agents, confiée à des frameworks spécialisés comme le NeMo Agent Toolkit, le tout relié par des protocoles standardisés comme MCP.

OutilsOutil
1 source
NVIDIA fait progresser le graphisme et la simulation grâce à l'IA agentique et physique lors du SIGGRAPH
206NVIDIA AI Blog 

NVIDIA fait progresser le graphisme et la simulation grâce à l'IA agentique et physique lors du SIGGRAPH

NVIDIA a présenté ses dernières avancées en intelligence artificielle lors de la conférence SIGGRAPH, qui se tient jusqu'au jeudi 23 juillet à Los Angeles. Le discours d'ouverture de l'entreprise, animé par les responsables de la recherche Neil Ashton, Edward Liu et Ming-Yu Liu, a porté sur le rendu neuronal, les modèles de monde et les méthodes de simulation pour l'IA. Parmi les annonces figurent de nouvelles connexions au Model Context Protocol (MCP) pour intégrer des agents IA directement dans les outils de création de contenu, un nouveau microservice NIM baptisé Synthetic Video Detector destiné à repérer les vidéos générées artificiellement, le modèle de monde ouvert Cosmos 3 Edge pensé pour l'IA physique locale, ainsi que NemoClaw, un nouvel outil disponible sur les stations DGX Station et intégré au NVIDIA Agent Toolkit. Adobe, Affinity by Canva et Epic Games figurent parmi les partenaires ayant déjà ouvert leurs logiciels à ces connexions agentiques. Cette évolution marque un tournant pour les professionnels de la création numérique, artistes, monteurs, directeurs techniques et studios de jeux vidéo ou de cinéma. Grâce au protocole MCP, un agent IA peut désormais inspecter une scène pour détecter des textures manquantes, vérifier la cohérence de la gestion des couleurs, préparer des exports, générer des versions de visionnage pour les rushes quotidiens ou valider un plan selon les règles du studio, tout en laissant les décisions créatives entre les mains des humains. L'exécution locale de ces modèles, rendue possible par les stations de travail RTX PRO et les systèmes DGX Spark et DGX Station, améliore la réactivité, réduit la dépendance à des services externes et protège les données sensibles de production, un enjeu majeur pour les studios qui manipulent des contenus non encore publiés. Cette annonce s'inscrit dans une stratégie de longue date de NVIDIA, qui accélère depuis plus de vingt ans les outils de création via ses technologies GPU, le rendu par tracé de rayons RTX et le débruitage par IA. L'arrivée du MCP ouvre désormais un nouveau chapitre où ces logiciels ne se contentent plus d'aller plus vite, mais deviennent capables d'accueillir des agents autonomes. Adobe étend ainsi son assistant IA à travers Firefly, Express et Creative Cloud, et propose un serveur MCP dédié aux développeurs pour créer des extensions. Affinity by Canva a de son côté lancé un connecteur IA pour Claude, permettant d'automatiser en langage naturel des tâches répétitives comme le renommage de calques, le redimensionnement de fichiers pour plusieurs formats ou l'optimisation de tracés vectoriels. Cette convergence entre grands éditeurs de logiciels créatifs et fournisseurs de puissance de calcul comme NVIDIA illustre une transformation plus large de l'industrie, où l'intelligence artificielle s'intègre directement dans les chaînes de production plutôt que de rester un outil externe.

UELes studios de creation europeens pourraient beneficier de l'execution locale de ces outils IA, mais aucun acteur francais ou reglementation europeenne n'est directement concerne.

OutilsOutil
1 source
Fine-tuning de Qwen3 avec LoRA via NVIDIA NeMo AutoModel : tutoriel complet sur Google Colab (GPU unique)
207MarkTechPost 

Fine-tuning de Qwen3 avec LoRA via NVIDIA NeMo AutoModel : tutoriel complet sur Google Colab (GPU unique)

NVIDIA a publié via son équipe NeMo un tutoriel complet permettant d'entraîner le modèle Qwen3-0.6B avec la technique LoRA (Low-Rank Adaptation) sur un seul GPU, directement dans Google Colab. Le workflow s'appuie sur NeMo AutoModel, une bibliothèque installée depuis son dépôt source sur GitHub, qui reprend une recette officielle de fine-tuning par PEFT (Parameter-Efficient Fine-Tuning) prévue pour Qwen3-0.6B. Le processus commence par une vérification du matériel disponible, à savoir la présence d'un GPU compatible CUDA, sa mémoire vive et son support du format bfloat16, avant de cloner le dépôt Automodel et d'installer les dépendances nécessaires comme PyYAML et PEFT. Le script identifie ensuite automatiquement le fichier de configuration YAML correspondant à la recette Qwen3, puis modifie par programmation ses paramètres de précision, de taille de batch, de points de contrôle et de planification pour l'adapter aux ressources limitées d'un environnement Colab gratuit. L'entraînement est ensuite lancé via l'interface en ligne de commande d'AutoModel, avant de recharger le checkpoint LoRA généré et de comparer les réponses du modèle original avec celles du modèle affiné. Cette démonstration illustre concrètement l'intérêt de l'architecture pilotée par configuration de NeMo AutoModel, capable de fonctionner aussi bien sur un unique GPU grand public que sur des clusters multi-GPU en production, sans changer de logique d'entraînement. Pour les développeurs et chercheurs, cela signifie qu'il devient possible de prototyper un fine-tuning sur un environnement gratuit comme Colab avant de faire évoluer exactement le même pipeline vers une infrastructure distribuée à plus grande échelle, sans réécrire le code. L'utilisation de LoRA permet en outre de réduire drastiquement les besoins en mémoire et en calcul par rapport à un fine-tuning complet, un point crucial quand on ne dispose que d'un seul GPU aux ressources contraintes. Le fait que NeMo AutoModel conserve une interface compatible avec Hugging Face, via la classe NeMoAutoModelForCausalLM, facilite également l'adoption pour les équipes déjà habituées à cet écosystème. Cette publication s'inscrit dans la stratégie plus large de NVIDIA visant à rendre ses outils d'entraînement de modèles de langage accessibles au-delà des seuls environnements d'entreprise dotés de clusters GPU coûteux. En misant sur des recettes préconfigurées et open source pour des modèles compacts comme Qwen3-0.6B, développé par Alibaba, NVIDIA cherche à démocratiser les techniques de fine-tuning efficace en paramètres, alors que la demande pour des modèles spécialisés et peu coûteux à personnaliser continue de croître. Le choix de Google Colab comme terrain de démonstration renforce cette logique d'accessibilité, en montrant que des architectures pensées pour le calcul distribué restent utilisables sur du matériel limité, ce qui pourrait encourager davantage de chercheurs indépendants et de petites équipes à expérimenter avec l'écosystème NeMo.

💬 Le vrai truc ici, c'est que NVIDIA rend le fine-tuning LoRA jouable sur un Colab gratuit, et que le même pipeline scale ensuite vers du multi-GPU sans réécrire une ligne. C'est ça, la promesse qui compte : plus besoin d'un cluster pour prototyper, tu passes direct à la prod si ça marche. Reste à voir combien de temps ça tient avant qu'un vrai projet dépasse les limites de mémoire du Colab gratuit, parce que là on parle d'un modèle 0.6B, pas d'un truc qu'on va déployer tel quel en entreprise.

OutilsTuto
1 source
Nemotron 3 : affinement des modèles NVIDIA avec la personnalisation serverless d'Amazon SageMaker AI
208AWS ML Blog 

Nemotron 3 : affinement des modèles NVIDIA avec la personnalisation serverless d'Amazon SageMaker AI

Amazon vient d'annoncer l'intégration de la personnalisation de modèles serverless pour les modèles NVIDIA Nemotron 3 au sein d'Amazon SageMaker AI. Deux versions sont concernées: Nemotron 3 Nano, qui compte 30 milliards de paramètres au total dont 3 milliards actifs, et Nemotron 3 Super, plus imposant avec 120 milliards de paramètres au total dont 12 milliards actifs. Les entreprises peuvent désormais affiner ces modèles open-weight via trois techniques disponibles sans avoir à provisionner ni gérer la moindre infrastructure: le fine-tuning supervisé classique (SFT), l'apprentissage par renforcement avec récompenses vérifiables (RLVR), et l'apprentissage par renforcement avec retour d'IA (RLAIF). Nemotron 3 repose sur une architecture hybride combinant Mamba et Transformer sous forme de mélange d'experts (MoE), capable de gérer des contextes allant jusqu'à un million de tokens. Elle entrelace trois types de couches complémentaires: des couches Mamba-2 pour un traitement séquentiel rapide en temps linéaire, des couches d'attention Transformer pour un rappel associatif précis, et des couches de mélange d'experts latent qui compressent les tokens avant de les router vers des experts spécialisés. Résultat, seule une fraction des paramètres totaux est activée à chaque passage, comme les 12 milliards sur 120 pour la version Super, ce qui garantit un débit élevé à moindre coût de calcul. Pour les entreprises, affiner un modèle sur leurs propres données ne relève plus seulement de l'optimisation technique: cela revient à créer une propriété intellectuelle propriétaire, encodant leur savoir-faire, leur vocabulaire métier et leur ton de marque directement dans l'architecture du modèle. Cette approche permet souvent à des modèles plus petits et ouverts d'égaler, voire de dépasser, les performances de modèles propriétaires bien plus volumineux, tout en gardant les données sensibles dans une infrastructure privée et sécurisée. Pour les charges de travail à fort volume impliquant plusieurs agents, comme le codage ou le triage de cybersécurité, ce type d'avantage devient un facteur de compétitivité difficile à répliquer avec des modèles génériques du marché. Les deux modèles ont été entraînés via NeMo Gym, un système d'apprentissage par renforcement multi-environnements qui les aligne sur des tâches agentiques réelles en plusieurs étapes, couvrant le codage, le raisonnement et l'analyse de contextes longs. Nemotron 3 Nano affiche un débit quatre fois supérieur à son prédécesseur Nemotron 2 Nano, le rendant particulièrement adapté aux charges de travail multi-agents à fort volume où coût et latence sont critiques. Nemotron 3 Super, de son côté, cible les applications multi-agents complexes comme le développement logiciel, misant sur une capacité de raisonnement accrue tout en conservant une efficacité de calcul élevée.

UELes entreprises europeennes utilisant Amazon SageMaker AI pourront acceder a cette nouvelle capacite de personnalisation serverless, sans impact reglementaire ou sectoriel direct sur la France ou l'UE.

💬 Nemotron 3 Super fait tourner 12 milliards de paramètres actifs sur 120 et bat des modèles bien plus gros, c'est la confirmation qu'on n'a plus besoin de mastodontes pour du raisonnement agentique sérieux. Ce qui change vraiment, c'est le fine-tuning serverless : plus de cluster GPU à gérer, tu balances tes données et Amazon fait le reste. Reste que la vraie valeur, ce n'est plus le modèle en lui-même, c'est ce que t'y injectes, ton vocabulaire métier, ton ton de marque, tes données propriétaires. Pour du codage ou du triage cyber à gros volume, ça devient un avantage concurrentiel qu'un modèle générique ne rattrapera pas.

OutilsActu
1 source
NVIDIA Nemotron atteint des performances record avec l'infrastructure LangChain Deep Agents
209NVIDIA AI Blog 

NVIDIA Nemotron atteint des performances record avec l'infrastructure LangChain Deep Agents

NVIDIA a dévoilé les résultats de son modèle ouvert Nemotron 3 Ultra, optimisé spécifiquement pour l'infrastructure d'agents Deep Agents de LangChain, la plateforme d'orchestration d'agents IA la plus utilisée du marché avec plus de 200 millions de téléchargements mensuels. Selon le benchmark public Deep Agents de LangChain, Nemotron 3 Ultra obtient la meilleure précision parmi les modèles ouverts, traite davantage de tâches, affiche un débit supérieur et coûte environ dix fois moins cher par exécution que les modèles fermés les plus performants du marché. Sur les tâches business évaluées, le modèle atteint même une parité de performance avec les meilleurs modèles propriétaires. Fait notable, ces gains n'ont nécessité aucun réentraînement du modèle : l'équipe de LangChain a analysé les traces d'exécution des agents pour identifier précisément où Nemotron 3 Ultra perdait des points, puis a ajusté l'environnement autour du modèle, à savoir les prompts système, les descriptions d'outils et les middlewares. Ce profil optimisé est disponible dès maintenant pour tous les développeurs utilisant LangChain Deep Agents. Cette approche change la donne pour les entreprises qui déploient des agents IA en production. À un coût dix fois inférieur, les équipes peuvent lancer des évaluations en continu, expérimenter plus rapidement et construire des agents spécialisés à plus grande échelle sans exploser leur budget d'inférence. Harrison Chase, cofondateur et PDG de LangChain, résume la philosophie du projet : améliorer un agent passe autant par la mémoire, l'usage des outils et l'évaluation que par le modèle lui-même, et ces éléments deviennent plus puissants lorsqu'ils sont ajustés ensemble. Des entreprises comme Abridge, Amdocs et Box intègrent déjà des agents spécialisés directement dans leurs plateformes, tandis que le cabinet de conseil EY élargit ses capacités autour des blueprints NVIDIA NemoClaw pour LangChain Deep Agents, afin d'aider ses clients à personnaliser, évaluer et gouverner leurs agents sur des workflows à forte valeur. Ce travail conjoint s'inscrit dans une tendance plus large : le passage d'assistants IA capables de répondre à des questions vers des agents capables d'agir directement dans les systèmes critiques des entreprises, ce qui relève l'enjeu autour du contrôle et de la propriété de la pile technologique. NemoClaw pour LangChain Deep Agents combine le code Deep Agents ajusté pour Nemotron 3 Ultra avec l'environnement d'exécution sécurisé NVIDIA OpenShell, offrant aux entreprises une pile entièrement ouverte qu'elles peuvent personnaliser et héberger où elles le souhaitent. Jensen Huang, PDG de NVIDIA, s'est récemment entretenu avec Harrison Chase sur les progrès réalisés en six mois dans l'IA appliquée à l'entreprise. Le modèle et le harnais optimisé sont accessibles dès aujourd'hui via les plateformes Baseten, Crusoe Cloud, DeepInfra, Fireworks, Nebius et Together AI.

💬 Selon Le Fil IA, le vrai signal ici c'est qu'on n'a pas besoin de réentraîner un modèle pour le rendre dix fois moins cher à l'usage, il suffit d'ajuster ce qui l'entoure (prompts, outils, middlewares). Ça veut dire que la bataille des agents en entreprise va se jouer autant sur le harnais que sur le modèle lui-même. NVIDIA et LangChain le comprennent visiblement mieux que la plupart, et ça devrait inquiéter un peu plus les fournisseurs de modèles fermés que leurs benchmarks habituels.

OutilsOutil
1 source
Les innovateurs de l'IA adoptent NVIDIA Vera : l'importance du CPU mono-thread maximal à grande échelle
210NVIDIA AI Blog 

Les innovateurs de l'IA adoptent NVIDIA Vera : l'importance du CPU mono-thread maximal à grande échelle

Nvidia vient de présenter Vera, une puce qui inaugure une nouvelle catégorie de processeurs pensée spécifiquement pour l'ère de l'IA agentique : les CPU à performance monofil maximale à grande échelle. Dans le fonctionnement d'un système agentique, le CPU se trouve sur le chemin critique de chaque étape de raisonnement : c'est lui qui exécute les appels d'outils, le code, le traitement des données, la gestion du cache KV et l'analyse des résultats produits par le modèle. Or les processeurs de data center actuels n'ont pas été conçus pour ce rôle. Poussés par l'essor du cloud, les fabricants ont privilégié l'augmentation du nombre de cœurs par puce afin de réduire le coût par cœur louable, au détriment de la vitesse de chaque cœur pris individuellement. Le passage aux architectures en chiplets a aggravé le problème en introduisant ce que Nvidia appelle une "taxe chiplet" : chaque cœur perd l'accès à la pleine bande passante mémoire de la puce. Vera est présentée comme une réponse directe à ces limites, avec une architecture qui privilégie la vitesse par cœur, une bande passante mémoire suffisante par cœur et une latence prévisible. Cette approche change directement l'équation économique des usines à IA. Dans ces infrastructures, le GPU reste la ressource la plus coûteuse et la plus rare : chaque seconde où un GPU attend qu'un CPU termine une tâche annexe (exécution d'un outil, traitement d'une donnée) réduit son taux d'utilisation et, in fine, le revenu généré par l'installation. Pour un agent IA, qui fonctionne en boucle continue (le modèle raisonne, le CPU exécute, le résultat revient, le modèle décide de l'étape suivante), la vitesse d'exécution de chaque étape détermine la cadence de toute la chaîne, puisque chaque action dépend du résultat de la précédente. Ajouter davantage de cœurs augmente le débit global de tâches traitées en parallèle, mais ne réduit en rien le temps nécessaire à l'exécution d'une seule étape dans une seule boucle d'agent : c'est la performance individuelle de chaque cœur, et non leur nombre, qui fixe la vitesse réelle perçue par l'agent. Ce constat marque une rupture avec la trajectoire suivie par l'industrie du semi-conducteur depuis une décennie, où l'optimisation du coût par cœur avait pris le pas sur la performance brute, notamment pour servir des charges de travail traditionnelles, ponctuelles et pilotées par des utilisateurs humains. Les charges agentiques, elles, sont permanentes et massivement parallèles, avec des essaims d'agents qui tournent en continu à travers des chaînes d'étapes interdépendantes. En misant sur Vera, Nvidia cherche à repositionner le CPU comme un composant aussi stratégique que le GPU dans la conception des futures usines à IA, alors que la concurrence entre fabricants de puces pour l'infrastructure agentique s'intensifie.

💬 Nvidia vient de comprendre un truc que tout le monde avait loupé : dans une boucle d'agent, c'est le CPU qui fixe la cadence, pas le GPU. On a passé dix ans à optimiser le coût par cœur pour du cloud classique, et là on découvre que ça pénalise justement les charges agentiques qui tournent en continu. Selon Le Fil IA, la vraie bataille de l'infra IA en 2026 ne se joue plus seulement sur la puissance GPU mais sur la vitesse mono-thread du CPU qui l'alimente.

InfrastructureActu
1 source
NVIDIA Horizon : un agent autonome qui fait évoluer des Git Worktrees et atteint 100% de réussite sur un benchmark RTL
211MarkTechPost 

NVIDIA Horizon : un agent autonome qui fait évoluer des Git Worktrees et atteint 100% de réussite sur un benchmark RTL

NVIDIA Research a présenté HORIZON, un cadre d'agent autonome conçu pour la conception de matériel informatique, en particulier au niveau transfert de registre (RTL). Détaillé dans un article publié sur arXiv (2606.28279), le système traite la conception matérielle comme un problème d'évolution de code au niveau d'un dépôt entier plutôt que comme une génération ponctuelle. Chaque problème de conception est encapsulé dans un harnais structuré au format Markdown, qui définit un objectif, des directives de connaissance du domaine, une spécification d'évaluation et un critère d'acceptation. Un agent de démarrage compile ensuite ce harnais en un pack de projet, formalisé par les chercheurs comme un tuple regroupant la politique de l'agent, l'évaluateur exécutable, le prédicat d'acceptation, la politique de contrôle de version et les compétences du domaine. L'équipe rapporte un taux de complétion de 100% sur l'ensemble des suites de benchmarks RTL évaluées, tout en précisant que la conception matérielle par agent autonome reste un problème non résolu dans l'absolu. Cette approche répond à une limite bien identifiée de la génération de code en un seul passage : produire du Verilog plausible ne suffit pas pour garantir un matériel fonctionnel, car la validité dépend du comportement cycle par cycle, des conventions de réinitialisation, des largeurs de bits et des retours du simulateur. HORIZON héberge chaque problème dans un dépôt Git isolé, où une boucle d'agent autonome planifie une cible, modifie l'espace de travail, invoque des outils, puis exécute l'évaluateur à chaque cycle. Une nouvelle version n'est validée par un commit que si elle franchit ce contrôle exécutable, sinon l'échec est simplement journalisé. Cette méthode importe pour les équipes de conception de semi-conducteurs et d'électronique numérique, car elle promet de fiabiliser l'automatisation de tâches jusqu'ici jugées trop sensibles pour une génération de code sans supervision humaine constante, tout en gardant une trace complète et vérifiable de chaque décision. Git ne sert pas ici de simple outil de gestion de versions mais de substrat expérimental complet : les diffs exposent les changements proposés, les commits marquent les points de contrôle validés, et les notes associées à chaque commit conservent le verdict de l'évaluateur ainsi que la récompense obtenue, transformant l'historique du dépôt en une véritable mémoire d'apprentissage sans base de données séparée. Les tentatives réussies deviennent des exemples positifs de réparation, les échecs des exemples négatifs, et l'ensemble s'inscrit dans une terminologie empruntée aux processus de décision markoviens semi-continus, sans toutefois qu'un apprentissage par renforcement ne mette réellement à jour la politique de l'agent au cours d'une campagne. HORIZON s'inscrit dans une lignée de systèmes d'auto-évolution à l'échelle d'un dépôt, aux côtés d'AlphaEvolve (2025) pour les noyaux algorithmiques, de SATLUTION (2025) pour les solveurs SAT, et d'ABCEvo (2026) pour la synthèse logique EDA, tous partageant un même principe : un changement candidat n'est accepté que lorsqu'une preuve exécutable le confirme.

💬 Ce qui compte pas dans ce papier, c'est le RTL, c'est l'architecture : Git comme mémoire d'apprentissage plutôt qu'une base de données à part, ça change la manière de penser l'auto-évolution de code. 100% sur un benchmark, ça sent le terrain choisi, faut voir sur des specs plus sales. Mais l'idée qu'un commit ne vaille que s'il passe un évaluateur exécutable, ça devrait s'exporter bien au-delà du hardware.

RecherchePaper
1 source
Anthropic explorerait la fabrication de puces sur mesure avec Samsung, tout en maintenant l'importance de Nvidia
212The Decoder 

Anthropic explorerait la fabrication de puces sur mesure avec Samsung, tout en maintenant l'importance de Nvidia

Anthropic, la startup d'intelligence artificielle fondée par d'anciens ingénieurs d'OpenAI, serait engagée dans des discussions avec le géant sud-coréen Samsung Electronics en vue de la fabrication d'une puce IA sur mesure. Le projet en serait encore à un stade précoce, mais l'entreprise a déjà recruté des ingénieurs spécialisés dans la conception de semi-conducteurs pour le piloter. Cette démarche intervient peu après l'annonce par OpenAI de son propre projet de puce interne, baptisée "Jalapeño", confirmant une tendance de fond chez les grands acteurs de l'IA générative : développer leurs propres composants plutôt que de dépendre exclusivement des fournisseurs traditionnels. Malgré cette diversification vers le silicium propriétaire, Anthropic aurait tenu à préciser que Nvidia demeure un partenaire essentiel et que ses puces continueront de jouer un rôle central dans son infrastructure. Cette initiative illustre la pression croissante que subissent les entreprises d'IA face à l'explosion des coûts d'entraînement et d'exécution de leurs modèles. En s'associant à Samsung, l'un des rares fondeurs capables de produire des puces avancées à grande échelle, Anthropic chercherait à réduire sa dépendance aux GPU Nvidia, dont la demande mondiale dépasse largement l'offre et dont les prix restent élevés. Pour l'industrie, ce mouvement confirme que même les entreprises les mieux financées jugent nécessaire de maîtriser une partie de leur chaîne d'approvisionnement en calcul, un enjeu à la fois stratégique et économique. À terme, des puces sur mesure pourraient permettre à Anthropic d'optimiser ses coûts d'inférence tout en gagnant en indépendance vis-à-vis des cycles de production de Nvidia. Ce virage s'inscrit dans une dynamique plus large où plusieurs géants de la tech, dont Google avec ses puces TPU et Amazon avec ses processeurs Trainium, ont déjà investi massivement dans le silicium propriétaire pour l'IA. OpenAI a ouvert la voie avec Jalapeño, et Anthropic semble vouloir lui emboîter le pas, signe que la course à l'infrastructure devient un facteur de différenciation aussi important que la qualité des modèles eux-mêmes. Le choix de Samsung comme partenaire pourrait aussi refléter une volonté de diversifier les fournisseurs face à la position dominante de TSMC dans la fonderie avancée. Reste à savoir si ce projet aboutira à une puce déployée à grande échelle, et selon quel calendrier, dans un secteur où la demande en puissance de calcul continue de croître à un rythme vertigineux.

InfrastructureActu
1 source
Modèles ouverts, environnements fermés : Palantir déploie une IA sécurisée dans les agences US avec NVIDIA Nemotron
213NVIDIA AI Blog 

Modèles ouverts, environnements fermés : Palantir déploie une IA sécurisée dans les agences US avec NVIDIA Nemotron

Palantir a annoncé un nouveau moteur d'intelligence artificielle intégrant les modèles ouverts NVIDIA Nemotron, destiné aux agences fédérales américaines opérant dans des environnements dits "air-gapped", des infrastructures totalement isolées de tout réseau non sécurisé. Concrètement, les agences gouvernementales pourront déployer des modèles Nemotron personnalisés sur leur propre infrastructure, les entraîner sur leurs propres données et conserver la pleine propriété des modèles résultants, y compris des poids qui encodent leur connaissance opérationnelle. Le système repose sur le Sovereign AI Operating System de Palantir, une pile logicielle construite sur ses produits AIP, Ontology, Foundry et Apollo, qui gère les autorisations d'accès aux données et l'isolation architecturale. Les déploiements à grande échelle pourront s'appuyer sur la suite logicielle NVIDIA AI Enterprise. L'enjeu est considérable : le gouvernement fédéral américain emploie environ 3 millions de fonctionnaires civils et opère dans des domaines aussi variés que le commerce, la santé, l'agriculture, l'énergie, l'éducation et les transports, ce qui en fait l'une des plus grandes "entreprises" du monde. L'IA peut y rationaliser des opérations d'une complexité extrême, de la sécurité alimentaire à la gestion des infrastructures routières. Ce partenariat permet aux agences d'entrer dans une logique de "data flywheel" : les modèles s'améliorent en continu grâce aux nouvelles données et aux retours d'usage, sans que ces informations ne quittent jamais le périmètre de contrôle de l'agence. La transparence des modèles ouverts offre par ailleurs une auditabilité totale, permettant aux chercheurs indépendants d'identifier vulnérabilités, biais ou comportements inattendus, un prérequis non négociable en contexte de sécurité nationale. Cette annonce s'inscrit dans une tendance plus large qui voit les modèles ouverts s'imposer comme une alternative crédible aux systèmes propriétaires pour les institutions sensibles. L'histoire de l'open source américain, du noyau UNIX en 1969 au Linux Kernel en 1991, de GitHub à Docker, montre que la mise en commun du code a historiquement renforcé la compétitivité technologique des États-Unis. Aujourd'hui, NVIDIA pousse cette logique dans le domaine des grands modèles de langage avec Nemotron, tandis que Palantir apporte son expertise en gouvernance des données souveraines. La combinaison des deux répond à une demande croissante des États et des grandes entreprises qui veulent accéder aux capacités de l'IA frontier sans sacrifier le contrôle sur leurs données stratégiques ni dépendre d'un fournisseur cloud extérieur.

UELa démonstration qu'un déploiement IA souverain en environnement air-gapped est techniquement viable pourrait accélérer les réflexions européennes sur des architectures similaires pour les institutions publiques et défense de l'UE.

InfrastructureActu
1 source
Utiliser NVIDIA Canary-1B-v2 pour la reconnaissance vocale, la traduction et l'export de sous-titres SRT en Python
214MarkTechPost 

Utiliser NVIDIA Canary-1B-v2 pour la reconnaissance vocale, la traduction et l'export de sous-titres SRT en Python

NVIDIA a mis à disposition Canary-1B-v2, un modèle de reconnaissance automatique de la parole (ASR) open source d'un milliard de paramètres, accessible via la bibliothèque NeMo et la plateforme Hugging Face. Ce tutoriel publié en 2025 détaille comment construire un pipeline complet de transcription et de traduction multilingue en Python : installation des dépendances (NeMo, librosa, soundfile, NumPy 2.2+, SciPy 1.15+), chargement du modèle sur GPU via CUDA, préparation de l'audio en mono 16 kHz, transcription en anglais, traduction vers 25 langues européennes dont le français, l'espagnol, l'allemand et le russe, génération de timestamps au mot et au segment, export de sous-titres au format SRT, transcription longue durée et traitement par lots avec mesure de performance. Canary-1B-v2 intéresse les développeurs et les équipes de production audiovisuelle parce qu'il combine en un seul modèle ce qui nécessitait auparavant plusieurs outils distincts : reconnaissance vocale, traduction et synchronisation temporelle pour les sous-titres. La prise en charge native du format SRT permet d'automatiser la création de sous-titres traduits pour des vidéos ou des podcasts sans passer par des services tiers payants. Le pipeline tourne localement sur GPU, ce qui élimine les coûts d'API et les contraintes de confidentialité associées aux solutions cloud comme Whisper via OpenAI ou les services Google Speech-to-Text. La gestion du traitement par lots rend le système viable pour des transcriptions à grande échelle. Canary-1B-v2 s'inscrit dans la stratégie de NVIDIA de positionner son écosystème NeMo comme référence pour les modèles de parole en entreprise, face à Whisper d'OpenAI, aujourd'hui le standard de facto dans ce domaine, et aux solutions de Meta et Google. Le modèle supporte 25 langues, un périmètre volontairement limité aux langues européennes pour cette version, ce qui laisse entendre qu'une extension est probable. L'accent mis sur la performance GPU s'adresse directement aux utilisateurs disposant déjà d'infrastructure NVIDIA, notamment dans les studios de post-production, les plateformes de e-learning et les médias en ligne. L'export SRT automatisé représente un cas d'usage immédiat et à forte valeur commerciale, à un moment où la demande de sous-titrage multilingue explose sous l'effet des obligations légales d'accessibilité et de la croissance des plateformes vidéo internationales.

UELe support natif du français parmi 25 langues européennes et les obligations légales d'accessibilité au sous-titrage en vigueur dans l'UE rendent cet outil directement exploitable par les producteurs audiovisuels, plateformes e-learning et médias français souhaitant automatiser le sous-titrage multilingue sans dépendance à des services cloud payants.

OutilsOutil
1 source
Le programme NAIRR Science redéfinit la recherche scientifique grâce à l'infrastructure IA de NVIDIA
215NVIDIA AI Blog 

Le programme NAIRR Science redéfinit la recherche scientifique grâce à l'infrastructure IA de NVIDIA

Le programme pilote NAIRR (National Artificial Intelligence Research Resource), lancé par la Fondation nationale des sciences américaine (NSF), a soutenu plus de 700 projets de recherche au cours des deux dernières années, dans des domaines aussi variés que la prédiction de structures protéiques et la gestion des épidémies infectieuses. NVIDIA a contribué au programme en fournissant aux chercheurs un accès dédié à au moins quatre nœuds DGX pendant un minimum d'un mois, accompagné d'un support technique continu. Parmi les projets phares figure le modèle Walrus, développé par le consortium Polymathic AI regroupant le Flatiron Institute, l'Université de Cambridge et le Lawrence Berkeley National Lab : entraîné sur un vaste jeu de données baptisé "the Well", ce modèle de fondation pour les simulations de fluides a été rendu public avec ses données, son code et ses poids. À l'Université du Michigan, le professeur Venkat Viswanathan a dirigé le développement de MIST (Molecular Insight SMILES Transformers), une famille de modèles moléculaires pré-entraînés sur des bases de données non étiquetées, affinés sur plus de 400 relations structure-propriété et capables d'égaler ou de surpasser l'état de l'art en électrochimie, chimie quantique et physiologie. MIST a été développé sur un cluster de 40 GPU NVIDIA DGX, complété par 200 000 heures GPU sur le cluster Polaris de l'ALCF. Ces travaux illustrent une accélération concrète du rythme de la découverte scientifique grâce à l'infrastructure GPU. En fusionnant MIST avec des grands modèles de langage généralistes, les chercheurs du Michigan rendent les calculs de chimie quantique accessibles à un public plus large de scientifiques computationnels, ouvrant la voie à des matériaux de stockage d'énergie de nouvelle génération pour l'électrification des transports lourds et aériens. Walrus, de son côté, vise à devenir le modèle de fondation le plus polyvalent jamais construit pour modéliser les comportements fluides, avec des applications potentielles dans l'industrie, la météorologie et l'ingénierie. Ces outils ne restent pas dans les laboratoires : leur mise à disposition publique accélère leur adoption et leur amélioration collective. Le programme NAIRR s'inscrit dans une stratégie plus large de démocratisation de l'accès à la puissance de calcul pour la recherche académique américaine, face à la concentration croissante des ressources IA dans le secteur privé. En offrant des allocations de GPU à des institutions universitaires, le NSF cherche à rééquilibrer les conditions de la recherche fondamentale à l'heure où les coûts d'entraînement explosent. NVIDIA, en fournissant à la fois du matériel et un accompagnement technique, consolide son positionnement comme infrastructure de référence pour la recherche scientifique. La suite du programme NAIRR, dont la pérennisation fait l'objet de discussions au Congrès, pourrait déterminer si les États-Unis maintiennent un avantage compétitif dans la recherche en IA publique face à des acteurs privés et étrangers de plus en plus puissants.

UEL'Université de Cambridge participe au consortium Polymathic AI (modèle Walrus), mais le programme NAIRR est une initiative fédérale américaine sans incidence directe sur les financements ou politiques de recherche en France ou dans l'UE.

RechercheActu
1 source
Tutoriel NVIDIA cuTile en Python : noyaux GPU tuilés pour vecteurs et matrices dans Colab
216MarkTechPost 

Tutoriel NVIDIA cuTile en Python : noyaux GPU tuilés pour vecteurs et matrices dans Colab

NVIDIA a lancé cuTile Python, une interface de programmation GPU par tuiles permettant d'écrire des kernels de style CUDA directement en Python, sans passer par le C++. Un tutoriel détaillé, conçu pour fonctionner sur Google Colab, guide les développeurs à travers trois exemples progressifs : addition de vecteurs, addition de matrices et multiplication de matrices. L'environnement requiert au minimum le pilote NVIDIA R580 et le CUDA Toolkit 13.1, des prérequis que Colab ne satisfait pas toujours en configuration standard. Le package s'installe via PyPI sous le nom cuda-tile[tileiras], et le tutoriel intègre un mode de repli automatique sur PyTorch pour garantir l'exécutabilité du notebook même lorsque les conditions du runtime ne sont pas réunies. L'enjeu est considérable pour la communauté des développeurs en machine learning et en IA. Jusqu'ici, écrire des kernels GPU personnalisés et hautement optimisés exigeait de maîtriser le CUDA C++, un langage bas niveau réservé à un profil d'ingénieur très spécialisé. cuTile Python abaisse cette barrière en exposant une abstraction par tuiles directement en Python, le langage de référence de l'écosystème IA. Concrètement, les développeurs peuvent désormais contrôler finement comment les tenseurs sont chargés, calculés et stockés en mémoire GPU, puis comparer les performances de leurs kernels personnalisés avec les opérations standard de PyTorch. Ce niveau de contrôle, auparavant réservé à des équipes spécialisées dans des laboratoires comme Google DeepMind ou Meta FAIR, devient accessible à un cercle bien plus large de praticiens. Cette initiative s'inscrit dans une tendance de fond chez NVIDIA à rendre son écosystème CUDA plus accessible aux développeurs Python, face à la montée en puissance de compilateurs alternatifs comme Triton d'OpenAI ou JAX de Google. Triton, intégré nativement à PyTorch depuis 2022, avait déjà ouvert cette voie en permettant d'écrire des opérations GPU optimisées en Python pur. cuTile se positionne comme la réponse directe de NVIDIA, en s'appuyant sur son propre stack logiciel et ses nouvelles générations de pilotes. Le fait que le tutoriel soit explicitement conçu pour Colab, l'environnement de notebooks gratuit de Google, signale une stratégie d'adoption large : abaisser le coût d'entrée pour que les étudiants, chercheurs et ingénieurs puissent expérimenter sans infrastructure dédiée. La prochaine étape naturelle sera l'intégration de cuTile dans les frameworks d'entraînement majeurs comme HuggingFace Accelerate ou PyTorch Lightning, ce qui pourrait redéfinir comment les équipes optimisent leurs pipelines à grande échelle.

OutilsTuto
1 source
NVIDIA et la Corée du Sud s'associent pour construire l'avenir de l'IA
217NVIDIA AI Blog 

NVIDIA et la Corée du Sud s'associent pour construire l'avenir de l'IA

Jensen Huang, fondateur et PDG de Nvidia, a atterri à Séoul vendredi 4 juin, accueilli par des fans et des journalistes dès sa descente d'avion. Ce déplacement fait suite à la conférence GTC Taipei organisée lors du COMPUTEX, et s'inscrit dans une tournée asiatique chargée. Huang a tenu à préciser l'enjeu central de sa visite : aligner la chaîne d'approvisionnement en IA avant une deuxième partie d'année qui s'annonce intense. Il a confirmé que Grace Blackwell, la plateforme phare de Nvidia, affiche de solides performances commerciales, et que Vera Rubin, la génération suivante, est désormais en pleine production industrielle. "Le premier semestre a déjà été très réussi, et nous allons être très occupés au second semestre", a-t-il déclaré à la presse. La Corée du Sud n'est pas un simple arrêt diplomatique dans l'agenda de Huang : c'est l'un des maillons stratégiques de l'écosystème mondial de l'IA. Le pays abrite des acteurs critiques de la fabrication de mémoires, une communauté gaming parmi les plus actives au monde, et un tissu industriel en robotique en pleine montée en puissance. Huang a explicitement identifié la robotique et l'IA physique comme "le prochain grand secteur" pour la Corée, appelant à des investissements ciblés dans ce domaine. Ce positionnement n'est pas anodin : la robotique incarnée, qui nécessite des puces, des capteurs et des modèles d'inférence rapide, est précisément le terrain où Nvidia cherche à imposer ses architectures comme standard de fait. La visite de Huang à Séoul s'inscrit dans une dynamique plus large de consolidation des alliances industrielles face à la pression géopolitique sur les semi-conducteurs. Alors que les restrictions américaines sur les exportations de puces vers certains marchés asiatiques compliquent le paysage, la Corée du Sud reste un partenaire de premier plan, à la fois client et fournisseur clé via Samsung et SK Hynix. Le programme de la visite inclut des rencontres avec des partenaires locaux dans la mémoire, la robotique et le gaming, avant que Huang ne passe à la table pour du poulet frit et du barbecue coréen, qu'il a jugés, sobrement, "délicieux".

UELes entreprises européennes dépendantes des puces NVIDIA et de la mémoire coréenne (Samsung, SK Hynix) pourraient bénéficier indirectement d'une chaîne d'approvisionnement renforcée, mais l'impact direct sur la France ou l'UE reste limité.

InfrastructureOpinion
1 source
Les géants industriels de Taiwan accélèrent le déploiement mondial de l'infrastructure IA avec NVIDIA
218NVIDIA AI Blog 

Les géants industriels de Taiwan accélèrent le déploiement mondial de l'infrastructure IA avec NVIDIA

Le workflow a été bloqué pour revue. Je fais la traduction directement. Taiwan abrite plus de 500 partenaires de l'écosystème NVIDIA, et c'est là que convergent plus d'un million de composants MGX destinés à la nouvelle infrastructure Vera Rubin, répartis sur 25 sites de production. Cette architecture de grande échelle implique l'ensemble de la chaîne d'approvisionnement : des acteurs de la fabrication de puces comme TSMC, SPIL, Kinsus, KYEC et UMTC aux géants de l'assemblage de serveurs que sont Foxconn, Pegatron, Quanta Cloud Technology (QCT), Wistron et Inventec. Mais ces industriels ne se contentent plus de construire l'infrastructure IA mondiale, ils l'appliquent à leurs propres usines. Foxconn déploie les blueprints NVIDIA Factory Operations et NemoClaw pour développer MoMClaw, un agent de gestion des opérations industrielles qui analyse en temps réel les signaux capteurs et machines, et fournit aux opérateurs des plans d'action en langage naturel. Les gains estimés sont substantiels : réduction de 80 % du temps d'analyse des causes racines, hausse de 15 % de la productivité, baisse de 10 % des pannes machines. La société construit par ailleurs un supercalculateur cloud à Taiwan pour 1,4 milliard de dollars, équipé de 10 000 GPU NVIDIA GB300 NVL72. L'enjeu dépasse la seule performance opérationnelle : Taiwan est en train de redéfinir ce que signifie construire de l'infrastructure IA à l'échelle industrielle. TSMC utilise les bibliothèques CUDA-X et des modèles IA pour la lithographie computationnelle, la simulation de transistors et le contrôle qualité, la bibliothèque cuLitho d'NVIDIA améliore le temps de cycle ou le coût de 20 à 50 % par rapport aux solutions CPU, tandis que cuEST accélère la simulation de matériaux semiconducteurs d'un facteur 50. QCT, de son côté, exploite des jumeaux numériques basés sur NVIDIA Omniverse pour planifier ses usines, et développe avec sa filiale Techman Robot un kit IA physique appuyé sur NVIDIA Jetson Thor et la plateforme Isaac GR00T, pour des robots humanoïdes comme le TM Xplore I, capables d'assembler des serveurs. Wistron simule des environnements de test thermique sur ses sites mondiaux grâce au framework PhysicsNeMo et à Cadence Reality DC Design. Cette dynamique s'inscrit dans une transition structurelle du secteur : NVIDIA ne se positionne plus seulement comme fournisseur de GPU, mais comme architecte d'un écosystème industriel intégré, où ses plateformes logicielles (Omniverse, Isaac, Metropolis, NeMo) pilotent autant la production que le produit final. Taiwan, qui concentre l'essentiel de la capacité mondiale de fabrication de semi-conducteurs avancés, devient ainsi le laboratoire grandeur nature de l'IA physique appliquée au manufacturing. Avec la montée en charge de Vera Rubin pour alimenter les "agentic AI factories" à l'échelle mondiale, la question n'est plus de savoir si l'IA va transformer l'industrie manufacturière, mais à quelle vitesse les acteurs qui ne participent pas à cet écosystème pourront rester compétitifs.

InfrastructureActu
1 source
NVIDIA et Ineffable Intelligence s'associent pour bâtir l'infrastructure de l'apprentissage par renforcement
219NVIDIA AI Blog 

NVIDIA et Ineffable Intelligence s'associent pour bâtir l'infrastructure de l'apprentissage par renforcement

NVIDIA et Ineffable Intelligence, le laboratoire d'IA londonien fondé par David Silver, l'architecte d'AlphaGo, ont annoncé un partenariat technique approfondi pour concevoir l'infrastructure nécessaire à l'apprentissage par renforcement à grande échelle. Des ingénieurs des deux sociétés travaillent conjointement sur la construction d'un pipeline d'entraînement optimisé, en démarrant sur la plateforme NVIDIA Grace Blackwell et en préparant l'intégration de la prochaine architecture Vera Rubin, encore inédite. Jensen Huang, fondateur et PDG de NVIDIA, a qualifié les systèmes d'apprentissage continu par expérience de "prochaine frontière de l'IA", tandis que Silver, sorti du mode furtif la semaine dernière seulement avec Ineffable Intelligence, entend pousser ce paradigme bien au-delà de ses applications actuelles. L'enjeu technique est significatif. Contrairement au pré-entraînement classique, qui consomme un jeu de données fixe de textes et d'images humaines, l'apprentissage par renforcement génère ses propres données en temps réel : l'agent agit, observe les résultats, évalue et se met à jour en boucle serrée. Ce mode de fonctionnement impose des contraintes très différentes sur les interconnexions, la bande passante mémoire et l'inférence. S'y ajoutent des formes d'expérience potentiellement étrangères au langage humain, ce qui pourrait nécessiter des architectures de modèles et des algorithmes d'entraînement entièrement nouveaux. Résoudre ces contraintes à l'échelle est ce que visent conjointement les deux équipes. David Silver est l'une des figures centrales de l'apprentissage par renforcement depuis des décennies : il a co-développé DQN chez DeepMind avant de concevoir AlphaGo, le premier programme à battre un champion du monde de go en 2016. Son raisonnement est direct : les chercheurs ont "largement résolu le problème facile de l'IA", soit apprendre à partir de ce que les humains savent déjà, mais le vrai défi reste de construire des systèmes capables de découvrir de nouvelles connaissances par eux-mêmes. Ce virage, de la donnée humaine vers la simulation et l'expérience autonome, est au coeur de la mission d'Ineffable Intelligence. Si le partenariat tient ses promesses, il pourrait débloquer une nouvelle génération d'agents capables de progresser dans des environnements complexes sans plafond de données humaines, ouvrant potentiellement des découvertes dans des domaines allant de la recherche scientifique à la robotique.

RecherchePaper
1 source
NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B
220MarkTechPost 

NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B

Des chercheurs de NVIDIA ont publié une étude intégrée à NeMo RL v0.6.0 qui accélère significativement la phase d'entraînement par renforcement des grands modèles de langage grâce au décodage spéculatif. Le principe repose sur un petit modèle dit "brouillon" qui propose plusieurs tokens en avance, tandis que le modèle principal, celui qu'on entraîne réellement, les vérifie via un mécanisme de rejet statistique. Sur 32 GPU GB200 (8 nœuds NVL72), cette approche réduit la latence de génération de 100 secondes à 56,6 secondes sur la tâche RL-Zero, soit un gain de 1,8× sur la génération. À l'échelle d'un modèle de 235 milliards de paramètres, les projections donnent un gain de bout en bout de 2,5×. Le framework EAGLE-3 est utilisé comme moteur de brouillon, compatible avec n'importe quel modèle pré-entraîné sans nécessiter de tête de prédiction multi-token native. Ce résultat est particulièrement précieux parce qu'il ne sacrifie rien à la fidélité d'entraînement. La génération par rollout représente entre 65 et 72 % du temps total d'une étape RL, mesure faite sur Qwen3-8B dans deux configurations, RL-Think et RL-Zero. C'est donc le seul goulet d'étranglement qui vaille la peine d'être attaqué. Or les méthodes habituelles d'accélération, exécution asynchrone, replay hors-politique, précision réduite, introduisent toutes un décalage de distribution qui contamine le signal d'entraînement. Le décodage spéculatif, lui, garantit mathématiquement que la distribution de sortie du modèle cible reste identique à ce qu'elle aurait été sans brouillon. Aucune correction hors-politique, aucun biais introduit dans la récompense. L'intégration dans une boucle d'entraînement par renforcement posait néanmoins un défi d'ingénierie non trivial : à chaque mise à jour des poids de la politique, le modèle brouillon doit rester aligné avec cette politique en évolution. NVIDIA a résolu cela avec une architecture à deux chemins dans NeMo RL, un chemin général via EAGLE-3 et un chemin natif pour les modèles disposant de têtes MTP intégrées. Lorsque l'adaptation en ligne du brouillon est activée, les états cachés et log-probabilités issus du passage avant du vérificateur MegatronLM sont réutilisés pour superviser la tête brouillon via un gradient détaché, de sorte que l'entraînement du brouillon n'interfère jamais avec le gradient de politique. Cette fonctionnalité est désormais disponible en production dans NeMo RL v0.6.0, aux côtés du backend SGLang, de l'optimiseur Muon et de l'entraînement long contexte YaRN.

💬 Le vrai problème du RLHF à grande échelle, c'est que 70% du temps tu le passes juste à générer des rollouts. NVIDIA s'y attaque proprement avec le décodage spéculatif dans NeMo : un modèle brouillon qui anticipe, un modèle principal qui valide, et la garantie mathématique que la distribution reste intacte, pas de biais hors-politique introduit en douce. 1,8× sur 8B, 2,5× visé sur 235B, c'est le genre d'optimisation qu'on attendait depuis qu'on fait du RL sérieusement.

LLMsPaper
1 source
L'équipe Qwen publie FlashQLA : une bibliothèque de noyaux d'attention linéaire atteignant jusqu'à 3x d'accélération sur les GPU NVIDIA Hopper
221MarkTechPost 

L'équipe Qwen publie FlashQLA : une bibliothèque de noyaux d'attention linéaire atteignant jusqu'à 3x d'accélération sur les GPU NVIDIA Hopper

L'équipe Qwen a publié FlashQLA, une bibliothèque open source de kernels GPU haute performance, sous licence MIT. Construite sur le framework de compilation TileLang, elle est spécifiquement optimisée pour le mécanisme d'attention linéaire Gated Delta Network (GDN), qui est au coeur des modèles hybrides Qwen3.5 et Qwen3.6. Sur les GPU NVIDIA de la génération Hopper (H100, H200), FlashQLA atteint une accélération de 2 à 3 fois sur la passe avant (inference et entraînement) et de 2 fois sur la passe arrière (calcul des gradients), par rapport à la bibliothèque de référence Flash Linear Attention (FLA) et ses kernels Triton. Ces gains reposent sur deux innovations principales documentées : un parallélisme de contexte intra-carte déclenché automatiquement par les propriétés mathématiques du gate exponentiel du GDN, et une reformulation algébrique optimisée pour les unités de calcul matérielles de l'architecture Hopper. Ces résultats ont une portée concrète pour quiconque entraîne ou déploie des modèles de langage sur des séquences longues. L'attention classique de type softmax souffre d'une complexité quadratique en O(n²) : doubler la longueur de la séquence multiplie le coût de calcul par quatre. L'attention linéaire ramène ce coût à O(n), ce qui rend le traitement de longs documents, de code ou de conversations beaucoup moins onéreux. Or, l'efficacité de l'attention linéaire dépend en grande partie de la qualité des kernels GPU sous-jacents. En exploitant les instructions warpgroup-level des Tensor Cores et les pipelines de données asynchrones propres à Hopper, fonctionnalités que Triton ne peut pas toujours exploiter pleinement, FlashQLA libère une partie du potentiel matériel que les implémentations existantes laissaient sur la table. Ce travail s'inscrit dans une compétition intense autour de l'optimisation bas niveau des modèles de langage, un terrain souvent invisible mais décisif. Depuis FlashAttention (2022), plusieurs équipes cherchent à accélérer les opérations d'attention directement au niveau du kernel, c'est-à-dire la routine de calcul qui s'exécute réellement sur le processeur graphique. Qwen, développé par Alibaba Cloud, a fait le choix d'une architecture hybride pour ses derniers modèles : des couches GDN alternent avec des couches d'attention complète, combinant efficacité sur les longues séquences et expressivité là où elle est le plus utile. En publiant FlashQLA sous MIT, l'équipe ouvre cette optimisation à l'ensemble de la communauté, y compris aux chercheurs et entreprises qui construisent des pipelines sur ces architectures hybrides. La prochaine étape probable est l'intégration dans les frameworks d'entraînement dominants comme vLLM ou SGLang, ce qui élargirait significativement l'impact de cette bibliothèque.

UEAucun impact direct, mais les chercheurs et entreprises européens disposant de GPU NVIDIA Hopper peuvent intégrer cette bibliothèque MIT pour accélérer l'entraînement et l'inférence de leurs modèles à attention linéaire.

LLMsOpinion
1 source
Le GPT-5.5 d'OpenAI propulse Codex sur l'infrastructure NVIDIA, déjà utilisée en interne
222NVIDIA AI Blog 

Le GPT-5.5 d'OpenAI propulse Codex sur l'infrastructure NVIDIA, déjà utilisée en interne

OpenAI a déployé GPT-5.5, son dernier modèle frontier, au coeur de Codex, son application de codage agentique. Ce modèle tourne sur les systèmes rack-scale NVIDIA GB200 NVL72, capables de délivrer un coût 35 fois inférieur par million de tokens et un débit 50 fois supérieur par seconde et par mégawatt par rapport à la génération précédente. Plus de 10 000 employés de NVIDIA, répartis dans tous les départements, ingénierie, juridique, marketing, finance, RH, ventes et opérations, utilisent déjà Codex propulsé par GPT-5.5 depuis quelques semaines. Les résultats sont concrets et mesurables : des cycles de débogage qui prenaient des jours se bouclent désormais en quelques heures, et des expérimentations qui nécessitaient des semaines aboutissent en une nuit sur des bases de code complexes et multi-fichiers. Des équipes livrent des fonctionnalités complètes à partir de simples instructions en langage naturel. L'impact dépasse le simple gain de productivité individuel. En rendant l'inférence de modèles frontier économiquement viable à l'échelle de l'entreprise, cette infrastructure change la donne pour toute organisation souhaitant intégrer des agents IA dans ses processus métier. Pour sécuriser ce déploiement, NVIDIA a doté chaque employé d'une machine virtuelle cloud dédiée connectée via SSH, dans laquelle l'agent Codex opère en sandbox avec une politique de rétention zéro donnée. Les agents n'accèdent aux systèmes de production qu'en lecture seule, garantissant auditabilité complète sans exposition des données internes. Jensen Huang, PDG et fondateur de NVIDIA, a incité l'ensemble de ses équipes à adopter l'outil dans un email interne : "Passons à la vitesse de la lumière. Bienvenue dans l'ère de l'IA." Ce lancement s'inscrit dans plus de dix ans de collaboration entre NVIDIA et OpenAI, une relation qui remonte à 2016 lorsque Jensen Huang avait livré en mains propres le premier supercalculateur DGX-1 au siège d'OpenAI à San Francisco. Depuis, les deux entreprises co-développent l'ensemble de la pile IA : NVIDIA était partenaire dès le premier jour pour le lancement du modèle open-weight gpt-oss d'OpenAI, en optimisant les poids du modèle pour TensorRT-LLM et des frameworks comme vLLM et Ollama. OpenAI s'est engagé à déployer plus de 10 gigawatts de systèmes NVIDIA pour sa prochaine infrastructure, mobilisant des millions de GPU pour l'entraînement et l'inférence dans les années à venir. Les deux sociétés sont également partenaires en co-conception matérielle, OpenAI contribuant au roadmap hardware de NVIDIA en échange d'un accès anticipé aux nouvelles architectures, ce qui a abouti à la mise en service commune du premier cluster de 100 000 GPU GB200 NVL72.

LLMsActu
1 source
Tutoriel NVIDIA PhysicsNeMo : Darcy Flow, FNOs, PINNs, modèles de substitution et benchmarking d'inférence
223MarkTechPost 

Tutoriel NVIDIA PhysicsNeMo : Darcy Flow, FNOs, PINNs, modèles de substitution et benchmarking d'inférence

NVIDIA a publié PhysicsNeMo, une bibliothèque dédiée à l'apprentissage automatique informé par la physique, et un tutoriel complet en montre l'implémentation pratique sur Google Colab. Le guide couvre l'ensemble du pipeline scientifique : génération de données pour le problème de l'écoulement de Darcy 2D, entraînement de modèles avancés dont l'opérateur de Fourier neuronal (FNO) et un réseau convolutif de base, ainsi qu'une introduction aux réseaux de neurones informés par la physique (PINNs). Le tutoriel se conclut par une comparaison d'architectures, une évaluation des prédictions et un benchmark d'inférence, avec sauvegarde des modèles entraînés. Techniquement, le problème de Darcy 2D sert de cas d'école : il s'agit de résoudre l'équation -∇·(k(x,y)∇u(x,y)) = f(x,y) sur un domaine carré de résolution 64×64, où k représente le champ de perméabilité en entrée et u le champ de pression en sortie, les données étant générées via des champs aléatoires gaussiens et un solveur par différences finies. Ce type d'outil intéresse directement les ingénieurs et chercheurs qui travaillent sur des simulations physiques coûteuses en calcul. Les opérateurs neuronaux comme le FNO peuvent apprendre des solutions d'équations aux dérivées partielles sans résoudre le système à chaque fois, réduisant les temps de calcul de plusieurs ordres de grandeur par rapport aux solveurs classiques. Pour des domaines comme la modélisation des écoulements souterrains, la conduction thermique, la mécanique des fluides ou la conception de matériaux, ces modèles de substitution (surrogate models) permettent d'explorer des milliers de scénarios là où un simulateur numérique traditionnel n'en traiterait que quelques dizaines dans le même temps. Le benchmark d'inférence inclus dans le tutoriel permet de quantifier précisément ce gain. PhysicsNeMo s'inscrit dans une tendance de fond portée par NVIDIA depuis plusieurs années : outiller la communauté scientifique avec des frameworks qui combinent deep learning et contraintes physiques. La bibliothèque fait écho à d'autres initiatives similaires comme DeepMind's GraphCast pour la météo ou les travaux de Microsoft sur les modèles de simulation climatique. L'enjeu est de démocratiser la scientific machine learning en abaissant la barrière d'entrée technique : en proposant une implémentation fonctionnelle sur Colab, accessible sans infrastructure GPU dédiée pour les premiers tests, NVIDIA cible aussi bien les doctorants en physique computationnelle que les équipes R&D industrielles. Le fait que le tutoriel propose des implémentations de secours (fallback) lorsque PhysicsNeMo n'est pas disponible suggère une conception pensée pour la robustesse et l'adoption progressive dans des environnements de production variés.

OutilsTuto
1 source
NVIDIA lance AITune : un outil open source qui identifie automatiquement le backend d'inférence le plus rapide pour tout modèle PyTorch
224MarkTechPost 

NVIDIA lance AITune : un outil open source qui identifie automatiquement le backend d'inférence le plus rapide pour tout modèle PyTorch

NVIDIA a lancé AITune, un outil open source destiné à automatiser l'optimisation des modèles PyTorch pour l'inférence sur GPU. Disponible sous licence Apache 2.0 et installable via PyPI, cet outil s'adresse aux équipes qui déploient des modèles de deep learning en production et qui souhaitent éviter le travail d'ingénierie manuel habituellement requis pour choisir et configurer les backends d'optimisation. AITune prend en charge plusieurs frameworks, TensorRT, Torch-TensorRT, TorchAO et Torch Inductor, et les évalue automatiquement sur le matériel cible pour sélectionner le plus performant, sans que le développeur ait à intervenir. Il couvre une large gamme de cas d'usage : vision par ordinateur, traitement du langage naturel, reconnaissance vocale et IA générative. Le résultat de l'optimisation est sérialisé dans un fichier .ait, compilé une seule fois et rechargeable à chaque redéploiement sans temps de chauffe. L'outil répond à un problème concret qui ralentissait les équipes MLOps depuis des années : le fossé entre le modèle entraîné par un chercheur et le modèle réellement efficace en conditions de production. Jusqu'ici, comparer TensorRT, Torch-TensorRT ou TorchAO nécessitait de les configurer et tester séparément, souvent avec du code sur mesure. AITune effondre ce travail en une seule API Python. Il propose deux modes : un mode AOT (ahead-of-time), qui profile tous les backends, valide la correction des sorties et sélectionne le meilleur pour chaque sous-module du modèle ou de la pipeline, et un mode JIT (just-in-time), qui s'active via une variable d'environnement et optimise les modules à la volée sans modifier le code existant. Le mode AOT est le plus puissant : il détecte les axes dynamiques comme la longueur de séquence dans les LLMs, permet de mélanger différents backends dans une même pipeline, et met en cache les artefacts pour éviter de recompiler à chaque redéploiement. Ce lancement s'inscrit dans un effort plus large de NVIDIA pour simplifier le chemin entre la recherche et la production à mesure que la pression sur les coûts d'inférence s'intensifie. Avec la multiplication des modèles déployés à grande échelle, notamment des LLMs et des modèles de vision, le choix du backend d'optimisation est devenu un levier critique de rentabilité. TensorRT existe depuis plus d'une décennie, mais son intégration dans des pipelines PyTorch complexes restait laborieuse. En proposant une abstraction unifiée et automatisée, NVIDIA positionne AITune comme un outil de référence pour les équipes d'ingénierie ML, potentiellement en concurrence directe avec des solutions propriétaires ou des pipelines maison. La disponibilité en open source sous Apache 2.0 devrait favoriser une adoption rapide, notamment dans les entreprises qui cherchent à optimiser leurs coûts GPU sans investir dans des équipes spécialisées en compilation de modèles.

UELes équipes MLOps européennes peuvent adopter immédiatement cet outil open source via PyPI pour réduire leurs coûts d'inférence GPU en production, sans dépendance à des solutions propriétaires.

OutilsOutil
1 source
Guide de code complet sur NVIDIA KVPress : inférence LLM à contexte long et compression du cache KV
225MarkTechPost 

Guide de code complet sur NVIDIA KVPress : inférence LLM à contexte long et compression du cache KV

NVIDIA a publié KVPress, une bibliothèque open source conçue pour compresser le cache clé-valeur (KV cache) des grands modèles de langage et réduire drastiquement leur consommation mémoire lors des inférences sur de longs contextes. Un tutoriel complet publié récemment par des ingénieurs en IA illustre son fonctionnement concret à travers une implémentation pas-à-pas exécutable sur Google Colab. L'exemple s'appuie sur le modèle Qwen2.5-1.5B-Instruct de Qwen, chargé en quantification 4 bits via la bibliothèque BitsAndBytes, et fait appel à la version 0.4.0 de KVPress. Deux stratégies de compression sont comparées : ExpectedAttentionPress, qui estime l'importance des tokens en fonction de l'attention attendue, et KnormPress, qui s'appuie sur la norme des vecteurs K pour éliminer les entrées peu pertinentes. Le pipeline génère un corpus synthétique long, pose des questions ciblées sur ce corpus, puis mesure les écarts de performance et d'empreinte mémoire entre la génération standard et les différentes configurations compressées. L'enjeu est considérable pour l'industrie du traitement du langage naturel. Le KV cache est le principal goulot d'étranglement mémoire lors de l'inférence sur de longs contextes : chaque token généré alimente un cache qui grossit linéairement, rendant les fenêtres de 32 000, 128 000 voire un million de tokens extrêmement coûteuses en VRAM. KVPress permet de ne conserver dans ce cache que les entrées jugées les plus informatives, en supprimant dynamiquement les tokens à faible contribution. Pour les développeurs déployant des applications d'analyse de documents, de recherche d'information ou d'agents conversationnels à mémoire longue, cette compression peut rendre viables des scénarios qui nécessiteraient sinon du matériel de classe A100 ou H100. La possibilité de faire tourner ces expériences sur Colab, avec une simple GPU grand public, illustre bien la baisse de barrière à l'entrée que KVPress ambitionne d'offrir. La gestion du KV cache est devenue l'un des fronts les plus actifs de la recherche en inférence LLM depuis que les fenêtres contextuelles ont explosé en 2023-2024. Des techniques comme Sliding Window Attention, PagedAttention (à la base de vLLM) ou les approches de quantification du cache ont émergé pour répondre à cette pression. NVIDIA, en proposant KVPress comme couche d'abstraction modulaire compatible avec le pipeline Hugging Face Transformers, cherche à standardiser l'accès à ces optimisations pour un public plus large que les seules équipes d'infrastructure. La prochaine étape naturelle sera d'évaluer ces stratégies sur des modèles de plus grande taille et sur des benchmarks de rétention d'information à longue portée, pour quantifier précisément le compromis entre taux de compression et fidélité des réponses dans des cas d'usage de production.

OutilsTuto
1 source
Guide pratique : utiliser le Transformer Engine NVIDIA avec précision mixte, vérifications FP8 et exécution de secours
226MarkTechPost 

Guide pratique : utiliser le Transformer Engine NVIDIA avec précision mixte, vérifications FP8 et exécution de secours

Le Transformer Engine de NVIDIA s'impose progressivement comme un outil de référence pour accélérer l'entraînement des modèles de deep learning en entreprise. Un tutoriel technique publié récemment propose une implémentation complète en Python, couvrant l'installation des composants, la vérification de la compatibilité GPU et CUDA, ainsi que la comparaison directe entre un pipeline PyTorch standard et un pipeline optimisé via le Transformer Engine. La démonstration construit deux réseaux neuronaux (enseignant et élève), les entraîne en parallèle, mesure leurs performances respectives en termes de vitesse d'exécution et de consommation mémoire, et produit des visualisations comparatives. Le tutoriel prend soin de gérer les échecs d'installation silencieusement, de manière à ce que le notebook reste exécutable même lorsque l'extension native ne peut pas être compilée, via un mode de repli automatique. Ce type d'outillage répond à un besoin concret des équipes d'IA cherchant à réduire les coûts d'entraînement sans changer d'architecture. Le Transformer Engine exploite la précision FP8 (8 bits flottants), disponible sur les GPU NVIDIA à partir de l'architecture Hopper (H100), pour effectuer les calculs matriciels les plus lourds avec une empreinte mémoire réduite et un débit augmenté, tout en maintenant la précision finale du modèle grâce à la gestion automatique des facteurs d'échelle. En pratique, cela peut se traduire par des gains de vitesse significatifs sur les passes avant et arrière des transformers, réduisant directement le temps et le coût des runs d'entraînement à grande échelle. L'approche intéresse aussi bien les laboratoires de recherche que les équipes MLOps en production. NVIDIA a développé le Transformer Engine en réponse à la montée en puissance des modèles de langage et de vision nécessitant des milliards de paramètres, pour lesquels la précision FP32 ou même FP16 devient un goulot d'étranglement. Introduit officiellement avec les GPU H100 et le framework TransformerEngine open source, il s'intègre à PyTorch et JAX via des couches drop-in comme te.Linear et te.TransformerLayer. La complexité d'installation, notamment la nécessité d'un compilateur NVCC et des headers cuDNN présents sur la machine, freine encore son adoption hors des environnements cloud spécialisés. Le tutoriel aborde précisément ce point de friction en proposant une détection automatique de l'environnement et un fallback propre, ce qui devrait abaisser la barrière d'entrée pour les équipes souhaitant expérimenter avant de migrer leurs pipelines de production vers cette technologie.

InfrastructureTuto
1 source
Guide pas à pas : pipeline d'optimisation de modèles avec NVIDIA Model Optimizer, élagage FastNAS et affinage
227MarkTechPost 

Guide pas à pas : pipeline d'optimisation de modèles avec NVIDIA Model Optimizer, élagage FastNAS et affinage

NVIDIA a publié un tutoriel complet détaillant comment construire un pipeline d'optimisation de bout en bout à l'aide de son outil NVIDIA Model Optimizer, combinant entraînement, élagage (pruning) et ajustement fin (fine-tuning) d'un réseau de neurones profond, le tout dans Google Colab sans infrastructure dédiée. Le pipeline repose sur l'architecture ResNet appliquée au jeu de données CIFAR-10, et utilise la technique FastNAS pour réduire la complexité computationnelle du modèle sous une contrainte de 60 millions de FLOPs (opérations en virgule flottante). Concrètement, le modèle est d'abord entraîné sur 12 000 exemples pendant 20 époques pour établir une référence, puis soumis à l'élagage structurel FastNAS qui supprime systématiquement les couches et filtres les moins utiles, avant une phase de fine-tuning de 12 époques pour récupérer la précision perdue. Cette approche répond à un besoin pressant dans l'industrie : déployer des modèles d'IA performants sur des matériels contraints, comme les appareils embarqués, les téléphones mobiles ou les serveurs à faible consommation. En réduisant le nombre de FLOPs sans sacrifier significativement la précision, FastNAS permet de rendre un modèle jusqu'à plusieurs fois plus léger et plus rapide à l'inférence. Pour les équipes ML en entreprise, cela se traduit par des coûts de déploiement réduits, une latence moindre et une empreinte énergétique plus faible. Le fait que l'ensemble du pipeline soit reproductible dans Colab, avec gestion des seeds et des sous-ensembles de données, le rend accessible à des équipes sans cluster GPU dédié. NVIDIA développe Model Optimizer dans le cadre de sa stratégie plus large pour contrôler toute la chaîne de valeur de l'IA, de l'entraînement jusqu'au déploiement sur ses propres puces. FastNAS s'inscrit dans une famille de techniques de compression de modèles qui inclut également la quantification et la distillation, toutes intégrées dans l'écosystème NVIDIA TensorRT. Face à la montée en puissance des outils open source comme la bibliothèque PEFT de Hugging Face ou les approches de pruning de PyTorch, NVIDIA positionne Model Optimizer comme une solution intégrée et orientée production. La prochaine étape logique de ce pipeline serait la conversion du modèle élaguévers le format ONNX ou TensorRT pour un déploiement sur GPU NVIDIA, bouclant ainsi la boucle entre recherche et mise en production industrielle.

OutilsTuto
1 source
NVIDIA fait don d'un pilote d'allocation dynamique de ressources GPU à la communauté Kubernetes pour faire avancer l'IA open source
228NVIDIA AI Blog 

NVIDIA fait don d'un pilote d'allocation dynamique de ressources GPU à la communauté Kubernetes pour faire avancer l'IA open source

NVIDIA a annoncé lors du KubeCon Europe à Amsterdam le don de son pilote Dynamic Resource Allocation (DRA) pour GPU à la Cloud Native Computing Foundation (CNCF), transférant ainsi la gouvernance du logiciel à la communauté Kubernetes. Ce pilote permet un partage intelligent des ressources GPU, supporte les technologies Multi-Instance GPU et Multi-Node NVLink, et facilite l'entraînement de modèles massifs sur les systèmes Grace Blackwell. NVIDIA introduit également le support GPU pour Kata Containers en collaboration avec la communauté CNCF Confidential Containers, renforçant l'isolation et la sécurité des charges de travail IA.

UEAnnoncé à KubeCon Europe à Amsterdam, ce don à la CNCF bénéficie directement aux équipes cloud européennes qui déploient des charges de travail IA sur Kubernetes avec des GPU.

OutilsActu
1 source
L'NVIDIA RTX PRO 6000 Blackwell Workstation Edition transforme la data science
229IEEE Spectrum AI 

L'NVIDIA RTX PRO 6000 Blackwell Workstation Edition transforme la data science

La NVIDIA RTX PRO 6000 Blackwell Workstation Edition, commercialisée par PNY Technologies, est présentée comme la GPU de bureau la plus puissante jamais construite, conçue pour répondre aux besoins croissants des data scientists face à des volumes de données massifs. Elle supporte jusqu'à quatre GPU en configuration multi-carte pour atteindre des performances équivalentes aux data centers, avec une intégration native dans l'écosystème logiciel NVIDIA (CUDA-X, plus de 100 applications IA). En maintenant les données en local plutôt que dans le cloud, elle offre également un avantage en matière de sécurité et de maîtrise des coûts pour les entreprises.

OutilsActu
1 source
DLSS 5 : date de sortie, cartes compatibles, rendu neuronal… Tout savoir sur la technologie de Nvidia
230Frandroid 

DLSS 5 : date de sortie, cartes compatibles, rendu neuronal… Tout savoir sur la technologie de Nvidia

Nvidia a dévoilé le DLSS 5 lors de la conférence GTC, une nouvelle itération de sa technologie d'upscaling basée sur le rendu neuronal. La présentation répond aux nombreuses critiques récentes entourant cette technologie, en détaillant les cartes graphiques compatibles et la date de sortie prévue.

OutilsOutil
1 source
231Frandroid 

Nvidia DLSS : avantages, fonctionnement, performances… Quand l’IA vient au secours de vos jeux

Le DLSS (Deep Learning Super Sampling) de Nvidia est une technologie d'upscaling basée sur l'IA qui améliore significativement les performances dans les jeux vidéo. L'article explique son fonctionnement, ses réglages et le compare aux solutions concurrentes d'AMD et d'Intel. Il s'adresse aux joueurs souhaitant optimiser leur expérience graphique grâce à l'intelligence artificielle.

OutilsOutil
1 source
L'atelier Build-A-Claw de Nvidia
232The Information AI 

L'atelier Build-A-Claw de Nvidia

Lors de la conférence GTC de Nvidia, l'attraction phare était le stand "Build-A-Claw", où les participants pouvaient tester NemoClaw, un logiciel open-source pour créer des agents IA basé sur OpenClaw. NemoClaw introduit des contrôles de confidentialité et de sécurité qui faisaient défaut à OpenClaw, permettant aux utilisateurs de restreindre les fichiers accessibles et les actions réalisables par un agent. Ces nouvelles garanties visent particulièrement les entreprises soucieuses des risques de sécurité liés aux agents IA.

OutilsOutil
1 source
Space-1 Vera Rubin : pourquoi Nvidia déploie ses GPU dans l’espace (et comment ils y survivent)
233Frandroid 

Space-1 Vera Rubin : pourquoi Nvidia déploie ses GPU dans l’espace (et comment ils y survivent)

Nvidia déploie ses GPU dans l'espace avec le projet Space-1, basé sur l'architecture Vera Rubin, offrant jusqu'à 50 pétaflops de puissance de calcul. Ces puces ont été spécialement durcies pour fonctionner en orbite sans air ni refroidissement classique. L'objectif est de transformer les satellites en mini centres de données IA directement en orbite, réduisant la latence liée aux allers-retours avec le sol.

InfrastructureOpinion
1 source
NVIDIA et les géants des télécoms construisent des grilles IA pour optimiser l'inférence sur les réseaux distribués
234NVIDIA AI Blog 

NVIDIA et les géants des télécoms construisent des grilles IA pour optimiser l'inférence sur les réseaux distribués

À la conférence NVIDIA GTC 2026, les grands opérateurs télécom américains et asiatiques (AT&T, Comcast et d'autres) ont annoncé la création d'AI grids — des infrastructures IA géographiquement distribuées exploitant leurs réseaux existants pour rapprocher l'inférence IA des utilisateurs. Les télécoms disposent de quelque 100 000 datacenters distribués dans le monde, représentant un potentiel de plus de 100 gigawatts de capacité IA. AT&T s'associe à Cisco et NVIDIA pour des cas d'usage IoT en temps réel, tandis que Comcast développe un AI grid orienté expériences hyper-personnalisées avec NVIDIA, HPE, Decart et Personal AI.

UELes opérateurs télécom européens pourraient être incités à développer des infrastructures distribuées similaires pour rester compétitifs, mais aucun acteur européen n'est impliqué dans ces annonces.

InfrastructureActu
1 source
GeForce RTX : avec DLSS 5 et son rendu photoréaliste, l’IA de NVIDIA va-t-elle trop loin ?
235Next INpact 

GeForce RTX : avec DLSS 5 et son rendu photoréaliste, l’IA de NVIDIA va-t-elle trop loin ?

NVIDIA annonce DLSS 4.5 avec le Dynamic Multi Frame Generation et un mode 6x (disponible le 31 mars pour les RTX série 50), permettant d'atteindre 240 fps à partir de seulement 40 fps GPU réels. DLSS 5, prévu pour l'automne 2026, promet un rendu photoréaliste dans les jeux, mais suscite une réception mitigée, certains l'accusant d'« AI Slop ». Côté matériel, NVIDIA concentre ses annonces GTC sur les datacenters avec l'architecture Vera Rubin, sans nouvelles GeForce RTX grand public.

OutilsOutil
1 source
Nvidia invente le filtre de beauté Instagram pour les jeux vidéo : les joueurs détestent
23601net 

Nvidia invente le filtre de beauté Instagram pour les jeux vidéo : les joueurs détestent

Nvidia a présenté le DLSS 5, sa nouvelle technologie d'upscaling pour jeux vidéo utilisant une IA particulièrement agressive. La fonctionnalité transforme profondément les graphismes des jeux, ce qui provoque une vive polémique dans la communauté des joueurs. Ces derniers craignent que leurs jeux soient dénaturés par ce traitement IA, comparé à un mauvais filtre Instagram.

OutilsOutil
1 source
SSD PCIe 6.0, HBM4 et SOCAMM2 : Micron fait « all-in » sur NVIDIA et l’IA
237Next INpact 

SSD PCIe 6.0, HBM4 et SOCAMM2 : Micron fait « all-in » sur NVIDIA et l’IA

À la GTC 2026 de NVIDIA, Micron annonce plusieurs produits datacenter centrés sur l'IA : la HBM4 36 Go (12 couches) est en production de masse avec 2,8 To/s de bande passante, soit 2,3x la HBM3E, et des modules 48 Go (16 couches) sont en phase de qualification. Micron annonce également des modules mémoire SOCAMM2 conçus spécifiquement pour les systèmes NVIDIA Vera Rubin NVL72, rejoignant SK Hynix sur ce segment. Samsung en parallèle présente sa HBM4E (7e génération) atteignant 4 To/s, tandis que Micron prépare sa propre HBM4E 64 Go pour 2027.

OutilsActu
1 source
Comment NTT DATA et NVIDIA accélèrent le déploiement de l’IA en entreprise
238Le Big Data 

Comment NTT DATA et NVIDIA accélèrent le déploiement de l’IA en entreprise

NTT DATA et NVIDIA s'associent pour lancer des "usines d'IA" — des plateformes entreprise combinant les GPU NVIDIA avec les logiciels NeMo (création de systèmes multi-agents) et NIM (microservices conteneurisés) pour industrialiser le déploiement de l'IA. L'objectif est de réduire la complexité technique et le temps nécessaire pour passer d'un prototype à une solution opérationnelle, grâce à des prototypes GenAI pré-qualifiés et une gouvernance intégrée. Des cas d'usage concrets existent déjà, notamment dans le médical (analyses radiologiques pour un centre de recherche oncologique) et l'automobile (validation de charges de travail IA chez un équipementier mondial).

UENTT DATA dispose d'une présence significative en Europe, rendant cette offre d'usines IA directement accessible aux DSI européens cherchant à industrialiser leurs déploiements GenAI.

BusinessActu
1 source
Nvidia lance le DLSS 5 : impressionnant, mais déjà sujet aux polémiques
239Numerama 

Nvidia lance le DLSS 5 : impressionnant, mais déjà sujet aux polémiques

Nvidia a dévoilé le DLSS 5, la nouvelle génération de sa technologie d'upscaling par IA. Bien que visuellement impressionnant, il suscite déjà des controverses en raison d'un rendu qui peut altérer l'image originale, notamment au niveau des visages.

OutilsOutil
1 source
Avec DLSS 5, l’IA de Nvidia fabrique désormais les images des jeux vidéo
24001net 

Avec DLSS 5, l’IA de Nvidia fabrique désormais les images des jeux vidéo

Avec DLSS 5, Nvidia introduit une avancée majeure dans les technologies d'upscaling pour jeux vidéo. L'IA de Nvidia passe désormais à créer directement les images de rendu graphique, au lieu de simplement les reconstruire. Cette innovation marque une étape significative dans l'amélioration des performances visuelles des jeux vidéo.

OutilsOutil
1 source
Nvidia lance Data Factory et des modèles robotiques dans son offensive pour l'IA physique
241AI Business 

Nvidia lance Data Factory et des modèles robotiques dans son offensive pour l'IA physique

Nvidia lance Data Factory et de nouveaux modèles de robotique dans le cadre de sa stratégie d'IA physique, visant à renforcer sa position dominante dans ce secteur en pleine expansion. Ces annonces s'inscrivent dans la volonté du géant des puces IA de s'imposer comme acteur incontournable au-delà du seul marché des GPU pour centres de données.

RobotiqueActu
1 source
DLSS 5 : comment Nvidia exploite le rendu neuronal pour métamorphoser vos jeux PC
242Frandroid 

DLSS 5 : comment Nvidia exploite le rendu neuronal pour métamorphoser vos jeux PC

Nvidia a dévoilé en avant-première le DLSS 5, prévu pour un lancement officiel à l'automne prochain. Cette nouvelle version marque une évolution majeure reposant sur le rendu neuronal, une approche qui promet de transformer fondamentalement la qualité graphique des jeux PC. Le DLSS 5 représente un changement technique profond par rapport aux versions précédentes dans la manière dont les images sont générées et upscalées.

OutilsActu
1 source
La prochaine puce de Nvidia serait vraiment différente des autres
243Frandroid 

La prochaine puce de Nvidia serait vraiment différente des autres

Nvidia envisagerait de rompre avec son approche "tout-en-un" habituelle pour ses GPU, en développant une puce d'architecture fondamentalement différente. Cette évolution stratégique marquerait un tournant majeur pour le leader des puces IA. L'article ne précise pas le nom ni les caractéristiques techniques de cette future puce.

InfrastructureOpinion
1 source
Tout savoir sur NemoClaw, le futur concurrent d’OpenClaw signé Nvidia
244Frandroid 

Tout savoir sur NemoClaw, le futur concurrent d’OpenClaw signé Nvidia

Nvidia lance NemoClaw, son propre clone d'OpenClaw, après que Jensen Huang avait qualifié OpenClaw de logiciel « le plus important de l'histoire ». Le PDG de Nvidia confirme ainsi l'entrée directe de la firme en concurrence frontale avec OpenClaw. Aucun détail technique supplémentaire n'est disponible dans l'article.

LLMsActu
1 source
NVIDIA AI dévoile Nemotron-Terminal : un pipeline systématique d'ingénierie des données pour le passage à l'échelle des agents LLM en terminal
245MarkTechPost 

NVIDIA AI dévoile Nemotron-Terminal : un pipeline systématique d'ingénierie des données pour le passage à l'échelle des agents LLM en terminal

NVIDIA dévoile Nemotron-Terminal, un framework complet pour entraîner des agents IA autonomes en ligne de commande, incluant le pipeline Terminal-Task-Gen et le dataset Terminal-Corpus. La solution adopte une approche "coarse-to-fine" : adaptation de datasets existants (163 000 prompts mathématiques, 35 000 prompts code, 32 000 prompts SWE) combinée à une génération synthétique de tâches basée sur une taxonomie de compétences terminal couvrant 9 domaines (sécurité, data science, administration système, etc.). Ce framework vise à résoudre le manque criant de données d'entraînement pour les agents terminal, un problème qui freinait jusqu'ici des projets comme Claude Code ou Codex CLI.

OutilsPaper
1 source
NVIDIA donne vie à des agents avec DGX Spark et Reachy Mini
246HuggingFace Blog 

NVIDIA donne vie à des agents avec DGX Spark et Reachy Mini

NVIDIA introduit DGX Spark, une plateforme AI miniature, et Reachy Mini, un bras robotique. DGX Spark est conçu pour les développeurs, offrant une puissance de calcul pour des applications AI locales. Reachy Mini est un bras robotique collaboratif, plus petit et plus abordable, destiné aux démonstrations et à l'apprentissage. Résumé: NVIDIA lance DGX Spark, une plateforme AI compacte pour développeurs, et Reachy Mini, un bras robotique collaboratif plus petit et accessible.

UENVIDIA's DGX Spark et Reachy Mini pourraient propulser les startups et PME françaises dans l'IA et la robotique, en fournissant des outils de calcul accessibles et des bras robotiques collaboratifs, tout en respectant les futures exigences de l'AI Act et en offrant des opportunités dans divers secteurs.

RobotiqueOutil
1 source
Le Standard d'Évaluation Ouverte : Évaluation de NVIDIA Nemotron 3 Nano avec NeMo Evaluator
247HuggingFace Blog 

Le Standard d'Évaluation Ouverte : Évaluation de NVIDIA Nemotron 3 Nano avec NeMo Evaluator

Le Standard d'Évaluation Ouverte : Comparaison de NVIDIA Nemotron 3 Nano avec NeMo Evaluator Ce texte présente l'utilisation du NeMo Evaluator pour tester les performances du NVIDIA Nemotron 3 Nano, un modèle de processeur AI, en se basant sur le Standard d'Évaluation Ouverte. Les résultats mettent en évidence des améliorations significatives en termes de vitesse et d'efficacité énergétique par rapport aux versions précédentes.

UELe NeMo Evaluator a évalué le NVIDIA Nemotron 3 Nano, un processeur AI, selon le Standard d'Évaluation Ouverte, révélant des améliorations notables en vitesse et en efficacité énergétique, bénéfique pour les entreprises européennes comme NVIDIA, et aligné avec les objectifs de l'AI Act sur l'efficacité énergétique, tout en respectant le RGPD dans la gestion des données.

RechercheOutil
1 source
Construire un robot de santé de la simulation à la mise en œuvre avec NVIDIA Isaac
248HuggingFace Blog 

Construire un robot de santé de la simulation à la mise en œuvre avec NVIDIA Isaac

Titre: Construction d'un robot de santé à partir de simulation jusqu'à déploiement avec NVIDIA Isaac Résumé: NVIDIA Isaac aide à construire un robot médical, passant par la simulation et le déploiement réel, en utilisant des technologies de réalité augmentée et de traitement d'images pour améliorer les soins aux patients.

UENVIDIA Isaac facilite la création de robots médicaux en France, intégrant la réalité augmentée et l'analyse d'images, en respectant les réglementations telles que le RGPD, pour améliorer les soins de santé.

RobotiqueOutil
1 source
Comment concevoir un robot de santé de la simulation à la mise en œuvre avec NVIDIA Isaac pour le secteur de la santé
249HuggingFace Blog 

Comment concevoir un robot de santé de la simulation à la mise en œuvre avec NVIDIA Isaac pour le secteur de la santé

Cet article détaille la construction d'un robot de santé à l'aide de NVIDIA Isaac for Healthcare, passant de la simulation à la mise en production. Il met en avant l'utilisation de la plateforme NVIDIA Isaac pour simuler, entraîner et déployer un robot dans un environnement de soins de santé. Les chiffres clés incluent une réduction de 90% du temps de développement grâce à la simulation et des améliorations significatives dans la précision et l'efficacité des tâches robotiques.

UEUtilisation de NVIDIA Isaac for Healthcare pour construire des robots de santé, réduisant le temps de développement de 90% via simulation, impactant le secteur de la santé en France et en Europe, en améliorant la précision et l'efficacité des tâches robotiques, conforme potentiellement aux exigences de l'AI Act et RGPD.

RobotiqueOutil
1 source
Accélérez un monde de grands modèles linguistiques sur Hugging Face avec NVIDIA NIM
250HuggingFace Blog 

Accélérez un monde de grands modèles linguistiques sur Hugging Face avec NVIDIA NIM

NVIDIA a présenté NIM (NVIDIA Image MaKer), un outil permettant d'accélérer le déploiement de grands modèles de langage (LLMs) sur la plateforme Hugging Face. NIM facilite la conversion de modèles de vision par ordinateur en modèles de traitement du langage naturel, simplifiant ainsi l'intégration des LLMs dans les applications. Cette collaboration entre NVIDIA et Hugging Face vise à démocratiser l'accès aux LLMs puissants pour les développeurs et les chercheurs.

UENVIDIA NIM facilite l'intégration des grands modèles de langage par les entreprises françaises et européennes, conformément au RGPD, en accélérant le déploiement sur la plateforme Hugging Face, ainsi que la conversion de modèles de vision par ordinateur en traitement du langage naturel.

OutilsOutil
1 source