Aller au contenu principal

Actualités IA — page 205

7 642 articles au fil, du plus récent au plus ancien.

Meta veut devenir l’Android des robots humanoïdes
4081Next INpact 

Meta veut devenir l’Android des robots humanoïdes

Meta a confirmé auprès de Bloomberg l'acquisition d'Assured Robot Intelligence (ARI), une startup spécialisée dans le développement de modèles d'intelligence artificielle pour la robotique. L'équipe d'ARI, présentée par Meta comme se situant « à la pointe de l'intelligence robotique, conçue pour permettre aux robots de comprendre, prévoir et s'adapter aux comportements humains dans des environnements complexes et dynamiques », rejoint le Meta Superintelligence Labs. Elle travaillera étroitement avec le Meta Robotics Studio, une division créée en février 2025 pour développer les technologies de base des robots humanoïdes. Ce rachat s'inscrit dans une stratégie plus large : Meta a déjà présenté en octobre 2025 des prototypes de capteurs tactiles avancés, le Digit Plexus, une solution matérielle pour intégrer des capteurs dans une main robotique, et le Digit 360, un capteur en forme de doigt fournissant des données haptiques très précises. Le géant des réseaux sociaux aurait par ailleurs déjà engagé des discussions avec Unitree Robotics, fabricant chinois connu pour ses robots acrobatiques, ainsi qu'avec Figure AI. L'ambition de Meta ne se limite pas à fabriquer ses propres robots : l'entreprise veut jouer un rôle de plateforme transversale pour toute l'industrie, sur le modèle d'Android et des puces Qualcomm dans l'écosystème des smartphones. Si ce positionnement réussit, Meta se retrouverait en position centrale dans un marché potentiellement colossal, en fournissant les briques logicielles et matérielles sur lesquelles d'autres constructeurs bâtiront leurs produits. L'enjeu industriel est réel : Amazon estime que les robots humanoïdes lui permettront d'éviter 600 000 embauches d'ici 2033, signal fort que la demande en environnements professionnels précède largement celle du grand public. Ce mouvement s'inscrit dans une dynamique de fond déclenchée par l'essor de l'IA générative, qui a fourni aux robots la capacité de comprendre des consignes en langage naturel, de décomposer des tâches complexes et de s'adapter à des situations imprévues, ce que les systèmes robotiques classiques ne pouvaient pas faire seuls. De nombreuses entreprises ont flairé l'opportunité d'un nouveau marché lucratif, et la compétition se structure rapidement. Tesla mise sur une approche intégrée verticalement avec Optimus, Elon Musk ayant promis lors du Forum de Davos une commercialisation possible dès fin 2026. Meta, dont le laboratoire de recherche fondamentale FAIR a vu son influence diminuer depuis le départ de Yann LeCun, réoriente clairement ses ressources vers ce chantier via le Superintelligence Labs. La question est désormais de savoir si le modèle « couche d'infrastructure ouverte » peut s'imposer face aux acteurs qui cherchent à tout contrôler, de la puce au châssis.

Aouch ! Google publie par accident l’application qui va remplacer Gemini
4082Le Big Data 

Aouch ! Google publie par accident l’application qui va remplacer Gemini

Le 30 avril 2026, Google a brièvement publié sur le Play Store une application baptisée COSMO, signée Google Research et présentée comme un « experimental AI assistant ». L'application, pesant 1,13 Go, embarque directement un modèle Gemini Nano capable de fonctionner en local sur l'appareil, sans recours systématique au cloud. Elle a disparu aussi rapidement qu'elle était apparue, mais les captures d'écran et les descriptions techniques ont eu le temps de circuler. L'interface, visiblement non finalisée, ressemblait davantage à un prototype interne qu'à un produit destiné au grand public, certaines illustrations du Play Store étant même mal affichées, signe que la publication était accidentelle. Ce qui distingue COSMO des assistants conversationnels classiques, c'est son comportement proactif : l'application ne répond pas à des requêtes, elle observe ce qui se passe à l'écran et agit sans qu'on le lui demande. Elle repose sur quatorze « Skills » capables de se déclencher automatiquement selon le contexte. Si une conversation mentionne un délai, l'assistant propose un minuteur. Si un rendez-vous apparaît dans un message, il suggère de l'ajouter à Google Agenda. Si un terme inconnu figure dans un PDF ouvert, il en affiche la définition instantanément. L'application intègre même un « Browser Agent » capable de naviguer sur le web à la place de l'utilisateur, rappelant le projet Mariner de Google. Pour fonctionner ainsi, COSMO exploite l'API d'accessibilité d'Android, ce qui lui donne un accès étendu à ce qui s'affiche sur l'écran, une capacité puissante, mais qui soulève immédiatement des questions sérieuses sur la collecte de données et le risque de surveillance permanente. Sur le plan technique, Google teste trois modes de traitement distincts : un mode entièrement local via Gemini Nano pour préserver la confidentialité, un mode cloud via une infrastructure baptisée « PI » pour des traitements plus puissants, et un mode hybride combinant les deux selon la situation. COSMO s'inscrit dans une tendance plus large chez les grands acteurs tech : aller au-delà du chatbot réactif pour construire des agents capables d'agir de manière autonome dans l'environnement numérique de l'utilisateur. Apple développe une vision similaire avec une Siri plus contextuelle, tandis que Microsoft intègre Copilot de plus en plus profondément dans Windows. Cette fuite accidentelle intervient à moins de trois semaines du Google I/O 2026, prévu le 19 mai, où Google devrait officiellement dévoiler sa nouvelle génération d'assistants. COSMO pourrait bien en être la pièce maîtresse.

☕️ Pas de statuettes pour l’IA à la prochaine cérémonie des Oscars
4083Next INpact 

☕️ Pas de statuettes pour l’IA à la prochaine cérémonie des Oscars

L'Academy of Motion Picture Arts and Sciences (AMPAS) a publié les règles officielles qui encadreront la 99e cérémonie des Oscars, prévue le 17 mars 2027. La position est sans ambiguïté : seules les performances "manifestement interprétées par des êtres humains avec leur consentement" seront éligibles dans les catégories d'interprétation. Conséquence directe : le clone IA de Val Kilmer, utilisé dans le film As Deep as the Grave pour faire "revenir" l'acteur un an après sa mort, ne pourra prétendre à aucune statuette. L'entité numérique Tilly Norwood, présentée comme une "comédienne IA" par le studio Xicoia et que plusieurs agences de talent ont tenté de représenter, se trouve dans la même situation. Côté scénario, les catégories meilleur scénario original et meilleur scénario adapté exigent désormais une paternité humaine : tout texte généré principalement par une IA sera déclaré inéligible, même si l'usage de l'IA en soutien à l'écriture humaine semble toléré. L'Academy se réserve par ailleurs le droit d'exiger des informations détaillées sur l'usage de l'IA dans n'importe quelle œuvre en compétition. Ces règles dessinent une ligne de démarcation claire à un moment où Hollywood ne sait pas encore quoi faire de cette technologie. Pour la profession des comédiens, la question dépasse l'anecdote : si un studio peut synthétiser le jeu d'un acteur décédé et le commercialiser, c'est l'ensemble de la relation entre un artiste, son image et son consentement qui est remis en cause. Les tentatives de "vendre" Tilly Norwood aux studios ont suscité un rejet net de la part des syndicats et de la profession, signe que la résistance est organisée et déterminée. Le contexte est celui d'un Hollywood encore sous le choc des grèves de 2023, où la SAG-AFTRA et les scénaristes du WGA avaient arraché des protections contre l'utilisation non consentie de leurs voix et de leurs ressemblances par les studios. Ces nouvelles règles des Oscars prolongent cette logique en lui donnant une traduction symbolique forte : la plus haute récompense du cinéma américain ne couronnera pas une machine. Reste à voir comment l'Academy vérifiera concrètement la part d'IA dans les œuvres, un chantier technique et juridique qui s'annonce complexe à mesure que les outils génératifs s'intègrent davantage aux workflows de production.

ÉthiqueReglementation
1 source
Les modèles VLA sont restreints mais capables de généraliser à des instructions inédites
4084arXiv cs.RO 

Les modèles VLA sont restreints mais capables de généraliser à des instructions inédites

Une étude publiée sur arXiv (référence 2505.03500, version 5, mai 2026) expose une limitation structurelle des modèles VLA (Vision-Language-Action) : leur incapacité à combiner des compétences apprises séparément pour exécuter des tâches inédites. L'exemple présenté est parlant, un VLA peut réussir à placer du fromage frais dans un bol et à poser ce bol sur une armoire, mais échoue à placer directement le fromage sur l'armoire. Pour quantifier ce déficit, les chercheurs ont créé libero-ood, un benchmark de 20 tâches extrapolées depuis les suites standards LIBERO. Résultat net : l'ensemble des VLA état-de-l'art testés plafonnent à moins de 15 % de succès. En appliquant leur technique d'interpolation de latents textuels au modèle π0 de Physical Intelligence, les auteurs atteignent 83 % sans aucun réentraînement. Autre découverte préoccupante : des prompts illisibles pour un humain, obtenus par décodage du latent textuel, suffisent à piloter le VLA à 70 % de succès sur LIBERO standard, ouvrant la voie à des attaques de type backdoor ou à des instructions privées non auditables. La méthode repose sur l'extraction d'un "latent textuel" par tâche de base, en moyennant les états cachés des tokens textuels sur l'ensemble des trajectoires démontrées. Pour exécuter une tâche composite inédite, les chercheurs interpolent temporellement les latents de deux tâches sources et les réinjectent dans le modèle à l'inférence, activant séquentiellement les sous-comportements correspondants. Ce résultat remet en question l'hypothèse d'une compréhension sémantique robuste dans les VLA actuels : l'analyse qualitative révèle un phénomène de surapprentissage spatial, les modèles associant les noms d'objets à des emplacements démontrés plutôt qu'à des entités abstraites. Pour les intégrateurs et décideurs industriels, cela signifie que les benchmarks standards ne détectent pas ces angles morts compositionnels, et que la qualification de systèmes autonomes en production devrait systématiquement inclure des tâches out-of-distribution. LIBERO est depuis plusieurs années une référence en manipulation robotique tabletop ; libero-ood comble un angle mort important sur la généralisation hors distribution. π0, développé par Physical Intelligence (fondée en 2023 par d'anciens chercheurs de Google et DeepMind, dont Sergey Levine et Chelsea Finn), s'est imposé comme l'un des VLA les plus performants du marché via son architecture flow-matching. Les modèles concurrents testés ici, notamment OpenVLA (Berkeley) et Octo, affichent les mêmes limites compositionnelles. Ce travail, encore au stade preprint, pose les bases d'un nouveau critère d'évaluation pour les VLA et soulève des questions de sécurité concrètes qui devraient alerter les équipes déployant ces modèles en environnement industriel non supervisé.

RobotiqueOpinion
1 source
IA incarnée et interprétabilité causale : comprendre pour mieux généraliser dans les modèles VLA
4085arXiv cs.RO 

IA incarnée et interprétabilité causale : comprendre pour mieux généraliser dans les modèles VLA

Une équipe de chercheurs a publié le 1er mai 2026 (arXiv:2605.00321) un travail introduisant deux outils de diagnostic pour les politiques de type Vision-Langage-Action (VLA) : l'Interventional Significance Score (ISS) et le Nuisance Mass Ratio (NMR). L'ISS est une procédure de masquage interventionnel qui estime l'influence causale de régions visuelles spécifiques sur les prédictions d'action d'un agent robotique. Le NMR est une métrique scalaire qui quantifie dans quelle mesure un modèle s'appuie sur des caractéristiques visuelles non pertinentes pour la tâche plutôt que sur des causes réelles. La méthode reformule l'attribution visuelle comme un problème d'estimation interventionnelle, au sens de la causalité de Pearl, et non comme une simple corrélation statistique. Des expériences sur des tâches de manipulation variées confirment que le NMR prédit le comportement de généralisation, et que l'ISS produit des attributions plus fidèles que les méthodes d'interprétabilité existantes. À noter : le preprint ne publie ni code ni benchmark public, et les métriques de performance sur tâches spécifiques restent peu détaillées dans l'abstract. L'enjeu est direct pour les intégrateurs et les décideurs industriels : les modèles VLA actuellement déployés, comme Pi-0 de Physical Intelligence, GR00T N2 de NVIDIA ou Helix de Sanctuary AI, échouent régulièrement hors de leur distribution d'entraînement. Jusqu'ici, identifier pourquoi restait largement empirique. ISS et NMR offrent un test diagnostique pré-déploiement : un NMR élevé signale que le modèle prend ses décisions sur la base de corrélations visuelles parasites (couleur de fond, éclairage, texture du sol) plutôt que sur la structure causale de la tâche. C'est une avancée concrète vers l'analyse formelle du sim-to-real gap, l'un des verrous les plus cités par les équipes d'intégration robotique industrielle, et cela ouvre la voie à des critères de certification hors-distribution avant mise en production. Le problème de l'interprétabilité des politiques robotiques apprises restait largement ouvert. Les méthodes existantes, cartes de saillance par gradient ou rollout d'attention, reposent sur des observations corrélationnelles et ont tendance à surestimer l'importance de features visuelles non causales. Ce travail se positionne explicitement contre ces approches en adoptant un cadre interventionnel rigoureux. Aucune affiliation institutionnelle n'est mentionnée dans le preprint. Les suites naturelles incluent l'application systématique de ces métriques sur des architectures établies comme OpenVLA, Octo ou RoboVLMs, et potentiellement leur intégration comme signal de régularisation pendant l'entraînement. Le papier arrive au moment où Figure AI, 1X Technologies et Agility Robotics intensifient leurs déploiements en environnements industriels réels, rendant la robustesse hors-distribution critique pour la crédibilité commerciale du secteur.

RecherchePaper
1 source
PORTool : optimisation de politique avec arbre de récompenses pour le raisonnement multi-outils
4086Apple Machine Learning 

PORTool : optimisation de politique avec arbre de récompenses pour le raisonnement multi-outils

Des chercheurs ont publié PORTool, un algorithme d'optimisation de politique dit "importance-aware" conçu pour améliorer l'entraînement des agents LLM capables d'utiliser plusieurs outils simultanément. Le système introduit un arbre de récompenses (rewarded tree) qui attribue des crédits à chaque étape intermédiaire d'un raisonnement, plutôt qu'uniquement à l'issue finale d'une tâche. Concrètement, lorsqu'un agent enchaîne des appels à des outils externes avant de produire une réponse, PORTool est capable de noter individuellement chaque décision prise en cours de route. Le problème central que PORTool cherche à résoudre est l'ambiguïté d'attribution de crédit, un obstacle persistant dans l'entraînement des agents multi-outils. Avec les méthodes classiques basées uniquement sur le résultat final, il est impossible de savoir quelles décisions intermédiaires ont contribué au succès ou à l'échec d'une séquence. Ce manque de granularité dégrade la qualité de l'apprentissage et rend les agents peu fiables en conditions réelles. PORTool offre un signal d'entraînement plus précis, ce qui devrait se traduire par des agents mieux capables de mobiliser les bons outils au bon moment. Le raisonnement multi-outils est devenu un enjeu central depuis l'essor des agents autonomes comme GPT-4 avec plugins, ou les architectures ReAct et ToolLLM. Ces systèmes montrent un potentiel considérable pour automatiser des tâches complexes en milieu professionnel, mais leur fiabilité dépend directement de la qualité de leur entraînement. PORTool s'inscrit dans une vague de travaux sur l'apprentissage par renforcement appliqué aux LLM, un domaine en pleine effervescence depuis les succès de DeepSeek-R1 et d'autres modèles à raisonnement renforcé.

RecherchePaper
1 source
La force de Palantir sur les prix de l'IA
4087The Information AI 

La force de Palantir sur les prix de l'IA

Palantir publie ses résultats trimestriels ce lundi, dans un contexte de forte attention portée aux valorisations des éditeurs de logiciels. La semaine précédente, Google, Microsoft et Amazon ont confirmé que l'intelligence artificielle continue d'alimenter leurs revenus cloud, propulsant les indices boursiers à des niveaux records vendredi. Palantir, spécialisée dans l'analyse et l'intégration de grandes masses de données pour des clients gouvernementaux et privés, voit pourtant son titre perdre près de 20 % depuis le début de l'année 2026, alors que le Nasdaq Composite progressait de 8 % sur la même période. Ces résultats seront scrutés de près car ils permettront de déterminer si l'IA peut également soutenir les valorisations des logiciels d'entreprise, un segment en net recul. Les actions de Salesforce, ServiceNow, SAP et HubSpot ont toutes cédé du terrain sous la pression d'une même crainte : les outils d'IA générative développés par Anthropic et OpenAI pourraient réduire structurellement la demande pour leurs plateformes, en automatisant des tâches autrefois réservées à leurs logiciels et potentiellement des milliards de dollars de revenus récurrents. La montée en puissance des grands modèles de langage remet en cause le modèle économique des éditeurs traditionnels, qui facturent des licences pour des fonctions que ces outils commencent à assumer directement. ServiceNow présentera ses propres résultats dans la foulée de Palantir cette semaine, offrant un deuxième test de la résilience du secteur. La question centrale pour les investisseurs est désormais de savoir si des acteurs comme Palantir sauront positionner l'IA comme un vecteur de croissance plutôt que d'en subir la concurrence frontale.

BusinessOpinion
1 source
Guide du prompting systématique : contraintes négatives, sorties JSON structurées et échantillonnage multi-hypothèses verbalisé
4088MarkTechPost 

Guide du prompting systématique : contraintes négatives, sorties JSON structurées et échantillonnage multi-hypothèses verbalisé

La fiabilité des grands modèles de langage en production est devenue une préoccupation d'ingénierie à part entière. Un guide technique récemment publié identifie cinq techniques de prompting avancées, conçues non pas pour améliorer les résultats en moyenne, mais pour garantir leur cohérence dans des systèmes critiques. Ces méthodes opèrent entièrement au niveau du prompt, sans nécessiter de fine-tuning, de modification du modèle ni d'infrastructure supplémentaire. Les cinq techniques présentées sont : le prompting par rôle (role-specific prompting), le prompting négatif, le prompting structuré JSON, les requêtes de raisonnement attentif (ARQ, Attentive Reasoning Queries) et l'échantillonnage verbalisé (verbalized sampling). L'auteur les démontre en comparant côte à côte des résultats obtenus avec et sans chaque technique sur les mêmes tâches, en utilisant le modèle GPT-4o-mini d'OpenAI via l'API. La principale valeur de ces approches réside dans leur capacité à corriger des modes de défaillance précis. Le prompting par rôle, qui consiste à attribuer un persona dans le prompt système comme « vous êtes un chercheur senior en sécurité applicative », ne modifie pas les faits que le modèle connaît, mais change les parties de sa connaissance pondérées en priorité. Dans un exemple sur les tokens de session stockés en localStorage, la réponse sans rôle décrit les risques de manière générale, tandis que la réponse avec rôle raisonne comme un attaquant, en détaillant ce qu'un adversaire ferait concrètement en cas d'injection XSS. Le prompting négatif précise explicitement ce que le modèle ne doit pas faire, évitant certains formats, biais ou glissements stylistiques indésirables. Le JSON prompting contraint la sortie à une structure définie, indispensable lorsque le résultat doit être parsé par un programme en aval. Enfin, ARQ et l'échantillonnage verbalisé forcent le modèle à expliciter son raisonnement ou à explorer plusieurs hypothèses avant de conclure, réduisant les erreurs silencieuses qui passent inaperçues dans les évaluations rapides. Ces travaux s'inscrivent dans une tendance plus large de formalisation du prompt engineering comme discipline à part entière. Longtemps considéré comme de l'empirisme artisanal, le prompting fait l'objet depuis 2023 d'une littérature de recherche croissante : des équipes chez Google DeepMind, Meta et des chercheurs indépendants ont publié des taxonomies et des benchmarks pour évaluer ces techniques de manière systématique. L'enjeu est de taille : à mesure que les LLMs s'intègrent dans des pipelines automatisés comme l'analyse médicale, la génération de code ou le traitement juridique, la différence entre un prompt qui « marche souvent » et un prompt qui « marche toujours » devient une question de risque opérationnel. Les développeurs qui maîtrisent ces cinq techniques peuvent déployer des systèmes plus robustes sans modifier les modèles eux-mêmes, ce qui représente un avantage économique et technique considérable dans un contexte où le fine-tuning reste coûteux et complexe.

LLMsTuto
1 source
L'IA physique est la véritable révolution de l'industrie manufacturière
4089Robotics Business Review 

L'IA physique est la véritable révolution de l'industrie manufacturière

Pour Steve Ricketts, vice-président du développement commercial chez Fictiv, 2026 marque le basculement de l'IA conversationnelle vers ce qu'il nomme l'"IA physique" : la convergence entre réseaux de neurones et systèmes mécaniques embarqués. Sur le terrain, cette transition se manifeste dans trois segments concrets : les robots mobiles autonomes (AMR) capables d'interagir avec les rayonnages en bout de ligne, les cobots équipés de perception haptique pour l'assemblage électronique aux côtés d'opérateurs humains, et les bras robotisés dotés de vision IA pour le contrôle qualité, capables selon Fictiv de détecter des microfissures dans des aubes de turbines invisibles à l'oeil nu. L'article ne fournit pas de chiffres de déploiement précis et s'appuie sur des cas génériques. Sur le plan industriel, MISUMI, distributeur japonais de composants coté en bourse, a acquis Fictiv, marketplace de fabrication à la demande (CNC, injection, impression 3D). La combinaison des deux a permis à un client entreprise non nommé de rapatrier sa production aux États-Unis, en consolidant flux matière et production multi-régions pour accélérer le ramp-up. Ce qui distingue cette vague des précédentes est le raccourcissement de la boucle de développement via les pipelines "sim-to-real" : des agents IA s'entraînent dans des jumeaux numériques photoréalistes, exécutant des millions d'itérations en quelques heures avant tout déploiement physique. Cette approche permet de traiter des tâches à haute variabilité, comme le tri de ferraille non structurée ou la navigation en couloir hospitalier, jusqu'ici impossibles à automatiser de façon fiable. Pour les intégrateurs et les décideurs industriels, le signal opérationnel est double : le rôle du développeur bascule de "programmeur" à "entraîneur", et le critère de sélection des plateformes se déplace vers la capacité à absorber des feedbacks terrain en production réelle. Le vrai goulot d'étranglement identifié pour 2026 n'est plus algorithmique mais physique : la "scaling wall", soit la capacité à fabriquer des milliers d'unités de hardware en qualité constante dans une supply chain mondiale sous tension. Il faut noter que cet article est signé par le VP de Fictiv lui-même, lui conférant une tonalité promotionnelle assumée plutôt qu'analytique indépendante. Dans le paysage concurrentiel, Amazon déploie déjà des humanoïdes Digit d'Agility Robotics dans ses entrepôts, tandis que Boston Dynamics, Figure et 1X intensifient leurs pipelines commerciaux. Du côté européen, des acteurs comme Enchanted Tools ou Wandercraft avancent sur des niches spécifiques (robotique hospitalière, exosquelettes), mais restent absents de cette analyse orientée marché nord-américain. Le prochain jalon annoncé est la conférence Robotics Summit & Expo de Boston, en mai 2026, où Ricketts interviendra sur le thème "Emergent Robotics : AI at the Edge of Hardware Innovation".

RobotiqueOpinion
1 source
Sakana AI présente KAME : une architecture vocale en tandem qui intègre les connaissances d'un LLM en temps réel
4090MarkTechPost 

Sakana AI présente KAME : une architecture vocale en tandem qui intègre les connaissances d'un LLM en temps réel

Le laboratoire d'intelligence artificielle tokyoïte Sakana AI a présenté KAME (Knowledge-Access Model Extension), une architecture hybride de traitement vocal conçue pour éliminer le compromis historique entre vitesse et qualité de réponse dans les assistants vocaux. KAME fonctionne comme un système en tandem : un module vocal de première ligne, basé sur l'architecture Moshi de KyutAI, commence à générer une réponse audio en moins de 80 millisecondes, pendant qu'un grand modèle de langage (LLM) tourne en parallèle en arrière-plan. L'innovation centrale est l'ajout d'un quatrième flux de données dit « oracle » dans l'architecture de Moshi, originellement à trois flux. Ce flux reçoit en temps réel les réponses candidates produites par le LLM à partir d'une transcription partielle de la parole de l'utilisateur, et permet au module vocal de corriger sa réponse en cours de génération, comme un humain qui se reprend à mi-phrase. Ce système résout un problème structurel qui freinait le déploiement des assistants vocaux conversationnels. Les modèles directs de type speech-to-speech, rapides à répondre, peinent à intégrer des connaissances factuelles profondes car ils consacrent une grande partie de leur capacité à modéliser les traits paralinguistiques comme le ton ou l'émotion. À l'inverse, les systèmes en cascade, qui font transiter la parole par un LLM via reconnaissance puis synthèse vocale, accusent une latence médiane de 2,1 secondes, suffisante pour rendre la conversation perceptiblement artificielle. KAME offre les deux à la fois : réactivité quasi instantanée et richesse sémantique d'un modèle de langage frontier, ce qui ouvre la voie à des assistants vocaux réellement utilisables dans des contextes professionnels, médicaux ou grand public exigeants. Sakana AI a dû résoudre un défi d'entraînement inédit : aucun jeu de données naturel ne contient de signaux oracle. L'équipe a développé une technique appelée Simulated Oracle Augmentation, utilisant un LLM simulateur pour générer des séquences synthétiques d'oracles à six niveaux de complétude de transcript (de 0 à 5), reproduisant ce qu'un LLM produirait en temps réel. Sakana AI, fondé en 2023 à Tokyo par des anciens de Google DeepMind dont David Ha et Llion Jones, s'est construit une réputation sur les architectures évolutives inspirées de la biologie. KAME s'inscrit dans une course mondiale à la voix naturelle, face à des acteurs comme OpenAI (Advanced Voice Mode) et Google (Project Astra), avec la particularité d'une approche entièrement modulaire permettant de brancher n'importe quel LLM en back-end.

RecherchePaper
1 source
Le MiMo-V2.5-Pro open-weight de Xiaomi rivalise avec Claude Opus en codage autonome de plusieurs heures
4091The Decoder 

Le MiMo-V2.5-Pro open-weight de Xiaomi rivalise avec Claude Opus en codage autonome de plusieurs heures

Xiaomi a publié MiMo-V2.5-Pro, un modèle open-weight orienté vers le codage autonome qui rivalise avec Claude Opus 4.6 d'Anthropic sur les principaux benchmarks de programmation. Selon le fabricant chinois, le modèle consomme entre 40 et 60 % de tokens en moins que son concurrent d'Anthropic pour des performances comparables, ce qui représente une économie substantielle à l'échelle. Le modèle est conçu pour fonctionner de façon autonome sur des tâches longues, pouvant s'étendre sur plusieurs heures sans intervention humaine. Cet écart d'efficacité change la donne pour les entreprises qui souhaitent intégrer des agents de codage dans leurs flux de travail. Moins de tokens signifient des coûts d'inférence réduits et des sessions plus longues sans interruption, deux contraintes qui freinent encore l'adoption des agents autonomes en production. Pour les équipes d'ingénierie, c'est un argument concret : un modèle open-weight aussi capable mais nettement moins gourmand rend l'automatisation du code accessible à davantage d'organisations. MiMo-V2.5-Pro s'inscrit dans une dynamique plus large qui oppose les fournisseurs chinois de modèles open-weight aux acteurs américains. Deepseek avait ouvert la voie en début d'année en démontrant qu'un entraînement efficace pouvait produire des résultats proches de ceux d'OpenAI à une fraction du coût. Xiaomi poursuit cette logique en déplaçant le terrain de compétition : il ne s'agit plus seulement de scores sur les benchmarks, mais de savoir quel modèle peut exécuter le plus longtemps et le plus économiquement une tâche complexe en conditions réelles.

LLMsOpinion
1 source
Qu'est-ce que la dérive de tokenisation et comment y remédier ?
4092MarkTechPost 

Qu'est-ce que la dérive de tokenisation et comment y remédier ?

Un modèle de langage peut produire des résultats parfaits à un instant donné, puis se dégrader sans que rien n'ait changé dans les données ou le code. La cause, souvent invisible, se trouve dans la tokenisation : avant tout traitement, un modèle convertit le texte en identifiants numériques appelés tokens, et de minuscules variations de formatage, un espace en début de mot, un saut de ligne, une ponctuation différente, peuvent générer des séquences de tokens entièrement distinctes. Ce phénomène porte un nom : la dérive de tokenisation, ou tokenization drift. Une démonstration concrète avec le tokeniseur GPT-2 (le même schéma Byte-Pair Encoding utilisé par GPT-4, LLaMA et Mistral) l'illustre parfaitement : aucune des sept paires de mots testés, "classify" avec ou sans espace initial, ne produit le même identifiant de token. Mieux encore, " classify" avec espace est encodé en un seul token (36509), tandis que "classify" sans espace devient deux tokens distincts (4871 et 1958). Le modèle ne voit pas seulement un identifiant différent : il reçoit une séquence de longueur différente, ce qui modifie le calcul de l'attention sur l'ensemble du contexte suivant. L'impact dépasse la simple curiosité technique. Lors du fine-tuning par instructions, les modèles apprennent non seulement des tâches, mais aussi la structure dans laquelle ces tâches leur sont présentées : séparateurs spécifiques, préfixes, motifs de formatage. Quand un prompt s'écarte de ces schémas appris, le modèle ne se retrouve plus dans sa distribution familière. Le résultat n'est pas une erreur franche mais quelque chose de plus insidieux : un modèle qui fait de son mieux sur des entrées qu'il n'a jamais été optimisé à traiter. Pour les équipes en production, cela signifie des régressions inexpliquées, des comportements non reproductibles entre environnements, et des bugs difficiles à diagnostiquer car aucun composant visible n'a changé. La solution proposée passe par une boucle légère d'optimisation des prompts : mesurer la dérive entre formats alternatifs via une métrique de distance dans l'espace des tokens, puis sélectionner le format qui maintient les entrées dans la distribution la plus stable. Cette approche s'appuie sur des outils accessibles, NumPy, scikit-learn pour une réduction PCA, seaborn pour la visualisation, et ne nécessite aucun ré-entraînement du modèle. Le sujet s'inscrit dans une réflexion plus large sur la fragilité des systèmes LLM face à des variations superficielles : la robustesse d'un pipeline d'IA ne dépend pas seulement de la qualité du modèle ou des données, mais aussi de la cohérence avec laquelle les entrées sont formatées à chaque étape, de la conception du prompt jusqu'au déploiement en production.

LLMsTuto
1 source
Retviews de Lectra : l’assistant data des marques de mode
4093Le Big Data 

Retviews de Lectra : l’assistant data des marques de mode

Lectra, éditeur technologique spécialisé dans l'industrie de la mode, vient de dévoiler une refonte majeure de sa plateforme d'analyse concurrentielle Retviews. La mise à jour intègre une intelligence artificielle entraînée spécifiquement sur les mécanismes du prêt-à-porter, capable de surveiller en continu des milliers de plateformes de vente pour cartographier les mouvements de la concurrence en temps réel. Concrètement, les équipes merchandising peuvent désormais personnaliser entièrement la classification des données selon leurs propres indicateurs internes, plutôt que de subir un flux brut standardisé. Lectra lance en parallèle un service premium baptisé Fashion Insight Reports, des analyses sectorielles clés en main destinées aux directions générales, portant sur des sujets stratégiques comme l'entrée sur un nouveau marché géographique ou le repositionnement d'une gamme. François Gonnot, responsable marketing chez Lectra, justifie cette offre par la volatilité croissante du secteur, qui rend les anciens modèles de pilotage insuffisants. L'impact le plus immédiat concerne la gestion des stocks, un problème structurel coûteux pour l'ensemble du secteur. En donnant aux marques des signaux très en amont sur ce qui fonctionne réellement en rayon et à quel prix, Retviews leur permet d'ajuster leurs volumes de production avant de s'engager, évitant ainsi la surproduction qui alimente les ventes promotionnelles et érode les marges. Caterina Ticchio, responsable du merchandising chez CP Company, témoigne que l'outil transforme la façon dont ses équipes conçoivent les collections : la décision n'est plus intuitive mais adossée à des données de marché actualisées. Pour les marques positionnées sur des segments premium, l'enjeu dépasse la rentabilité pure, il s'agit aussi de protéger une image de marque incompatible avec des fins de saison bradées. L'industrie de la mode traverse depuis plusieurs années une crise de surproduction et d'accélération des cycles, amplifiée par la montée en puissance de plateformes de fast-fashion comme Shein, qui inondent le marché avec des milliers de références nouvelles chaque semaine. Face à cette pression, les marques traditionnelles cherchent à gagner en agilité sans perdre leur identité. Lectra, qui cible historiquement les acteurs du luxe et du prêt-à-porter structuré, positionne Retviews comme une réponse à cette double contrainte : être aussi réactif que les pure players numériques tout en conservant la cohérence d'une collection pensée sur le long terme. La combinaison d'un outil SaaS en accès continu et d'un service d'analyse à valeur ajoutée portée par des experts humains illustre une tendance de fond dans les logiciels B2B : l'IA seule ne suffit pas, c'est l'interprétation contextualisée qui fait la différence pour les décideurs.

OutilsOutil
1 source
Mistral AI lance des agents distants dans Vibe et Mistral Medium 3.5 avec un score de 77,6 % sur SWE-Bench Verified
4094MarkTechPost 

Mistral AI lance des agents distants dans Vibe et Mistral Medium 3.5 avec un score de 77,6 % sur SWE-Bench Verified

Mistral AI vient d'annoncer deux avancées majeures : le lancement des agents distants dans Vibe, sa plateforme d'agents de codage, et la mise en préversion publique de Mistral Medium 3.5, un nouveau modèle dense de 128 milliards de paramètres. Ce modèle devient immédiatement le modèle par défaut dans Vibe et dans Le Chat, l'assistant grand public de Mistral. Sur le benchmark SWE-Bench Verified, référence du secteur pour évaluer la capacité d'un modèle à résoudre des problèmes réels tirés de dépôts GitHub open source, Medium 3.5 obtient un score de 77,6%, devançant Devstral 2 ainsi que Qwen3.5 397B A17B. Le modèle dispose d'une fenêtre de contexte de 256 000 tokens, soit environ 200 000 mots traités en une seule passe, suffisant pour raisonner sur l'intégralité d'une grande base de code. Il est également multimodal, avec un encodeur visuel développé intégralement par Mistral plutôt que réutilisé depuis des modèles comme CLIP, ce qui lui confère davantage de flexibilité face aux images de tailles et formats variés. La bascule vers les agents distants représente un changement fondamental dans la façon dont les développeurs interagissent avec Vibe. Jusqu'ici, les sessions Vibe s'exécutaient localement, liant l'agent au terminal de l'utilisateur. Désormais, plusieurs sessions peuvent tourner en parallèle dans le cloud pendant que le développeur fait autre chose. Il est même possible de "téléporter" une session locale en cours vers le cloud sans perdre l'historique, l'état de la tâche ni les validations en attente. Chaque session s'exécute dans un environnement isolé, et lorsqu'une tâche est terminée, l'agent peut ouvrir directement une pull request sur GitHub et notifier le développeur. Les intégrations couvrent également Linear, Jira pour la gestion des tickets, Sentry pour les incidents, et Slack ou Teams pour les notifications. Le Chat de Mistral bénéficie de la même infrastructure via les Workflows de Mistral Studio, la même couche d'orchestration développée en interne avant d'être ouverte aux entreprises puis au grand public. Cette annonce s'inscrit dans une compétition de plus en plus dense sur le segment des agents de codage, où Mistral affronte notamment GitHub Copilot Workspace, Cursor et des offres d'OpenAI ou d'Anthropic. En positionnant Vibe comme une alternative accessible depuis la ligne de commande ou directement depuis Le Chat, Mistral mise sur la praticité et l'intégration native à la chaîne de développement existante. Le choix de construire son propre encodeur visuel plutôt que de s'appuyer sur des composants standard témoigne d'une volonté de maîtrise technique complète sur la pile. Avec Medium 3.5, Mistral qualifie ce modèle de premier "flagship merged model", suggérant une évolution de sa stratégie produit vers des modèles unifiés capables de couvrir instruction, raisonnement et code sans multiplication des variantes spécialisées.

LLMsOpinion
1 source
Construire un workflow multi-agents pour la modélisation de réseaux biologiques, interactions protéiques, métabolisme et signalisation cellulaire
4095MarkTechPost 

Construire un workflow multi-agents pour la modélisation de réseaux biologiques, interactions protéiques, métabolisme et signalisation cellulaire

Des chercheurs et développeurs en bioinformatique disposent désormais d'un tutoriel détaillé pour construire un pipeline multi-agents capable de modéliser des systèmes biologiques complexes en un seul environnement de calcul unifié. Publié sous forme de notebook Google Colab, ce guide propose d'assembler plusieurs agents spécialisés autour de quatre domaines distincts : l'analyse des réseaux de régulation génique, la prédiction des interactions protéine-protéine, l'optimisation des voies métaboliques et la simulation des cascades de signalisation cellulaire. Chaque agent traite des données synthétiques générées en amont, avec des paramètres contrôlés (14 gènes, 40 protéines, 70 pas de simulation), et un modèle OpenAI GPT-4o-mini joue le rôle d'investigateur principal, synthétisant l'ensemble des résultats en une interprétation biologique cohérente qui relie régulation, métabolisme et signalisation. L'intérêt de cette approche dépasse la simple démonstration technique. En centralisant dans un seul workflow des analyses qui nécessitent habituellement des outils et des équipes séparées, le pipeline réduit la friction entre disciplines et rend la biologie computationnelle reproductible à coût quasi nul. Les chercheurs en génomique, pharmacologie ou biologie synthétique peuvent ainsi prototyper des hypothèses sur des interactions moléculaires sans avoir accès à des données expérimentales réelles, ce qui accélère la phase exploratoire avant les expériences en laboratoire. Le recours à un LLM comme chef d'orchestre final est particulièrement notable : il ne remplace pas l'expertise humaine, mais il agrège des sorties hétérogènes en une narration scientifique structurée, comblant le fossé entre calcul brut et interprétation biologique. Ce type d'infrastructure reflète une tendance de fond dans la bioinformatique computationnelle : l'émergence de systèmes multi-agents où des modules IA spécialisés collaborent plutôt que de concentrer toute la logique dans un seul modèle monolithique. Des entreprises comme Recursion Pharmaceuticals ou Insilico Medicine ont déjà industrialisé des pipelines similaires pour la découverte de médicaments, mais l'accès à ces outils reste souvent réservé à des équipes bien dotées. La mise à disposition d'un tel tutoriel open-source, fondé sur des bibliothèques standard comme NumPy, NetworkX et scikit-learn, démocratise une approche jusque-là réservée aux grands laboratoires. La prochaine étape logique serait d'y intégrer de vraies données omiques, comme des profils d'expression ARN issus de bases publiques telles que GEO ou TCGA, pour transformer ce prototype pédagogique en outil de recherche opérationnel.

RechercheTuto
1 source
Interdiction de Doom, meme coins et 7 autres faits marquants du procès Musk contre OpenAI
4096The Information AI 

Interdiction de Doom, meme coins et 7 autres faits marquants du procès Musk contre OpenAI

Le procès opposant Elon Musk à OpenAI a tenu toutes ses promesses lors de sa première semaine d'audiences au tribunal fédéral de San Francisco. Musk a témoigné sous un contre-interrogatoire musclé mené par l'avocat d'OpenAI, Bill Savitt, vétéran du barreau. Les échanges ont été tendus : Musk a accusé Savitt de vouloir le "piéger" avec ses questions, les comparant à des formulations rhétoriques manipulatrices, avant d'être rappelé à l'ordre par la juge Yvonne Gonzalez Rogers. Sam Altman et Greg Brockman, cofondateur d'OpenAI, ont suivi les débats depuis les tribunes du public, Brockman devant témoigner la semaine suivante. Dehors, des étudiants de Stanford et des journalistes faisaient la queue dès 5 heures du matin pour obtenir une place, certains se retrouvant finalement assis par terre dans une salle de débordement. L'un des moments les plus révélateurs de la semaine concerne les jurés eux-mêmes. Les neuf personnes appelées à trancher l'avenir d'OpenAI ne sont pas des initiés de la tech : parmi eux, un soignant, une infirmière, un peintre et un ancien responsable de programme chez Lockheed Martin. Fait saisissant, deux d'entre eux déclarent ne pas utiliser l'IA, deux la trouvent utile au travail, et deux autres estiment qu'elle leur fait perdre du temps car ils doivent systématiquement vérifier ses résultats. Cette composition illustre le fossé qui sépare encore l'industrie de l'intelligence artificielle du grand public. Sur le fond, Musk a appuyé une partie de son témoignage sur un article de The Information publié en 2022, révélant l'investissement de 10 milliards de dollars de Microsoft dans ChatGPT, qu'il a présenté comme la preuve d'un "bait and switch" orchestré par Altman. Ce procès s'inscrit dans une rupture profonde entre deux figures fondatrices de l'IA générative. Musk, cofondateur d'OpenAI en 2015, a quitté le conseil d'administration en 2018 avant de lancer sa propre entreprise, xAI, en 2023. Il reproche à OpenAI d'avoir trahi sa mission non-lucrative en se rapprochant de Microsoft et en orientant ses activités vers le profit. Pour trancher, la juge Gonzalez Rogers dirige les débats avec une fermeté remarquée, imposant notamment une trêve sur les réseaux sociaux aux trois protagonistes principaux, pourtant habitués des publications quotidiennes. La presse spécialisée américaine compare déjà l'atmosphère à celle d'un procès people, une comparaison qui en dit long sur la place qu'occupent désormais ces batailles juridiques dans la culture technologique américaine.

RégulationReglementation
1 source
Anthropic en négociation pour acheter des puces IA à une startup britannique
4097The Information AI 

Anthropic en négociation pour acheter des puces IA à une startup britannique

Anthropic est en discussions avec la startup londonienne Fractile pour acquérir des puces d'inférence destinées à faire tourner ses modèles d'IA. Selon deux sources proches des dirigeants de Fractile, les pourparlers portent sur un approvisionnement qui deviendrait effectif l'année prochaine, une fois les puces disponibles. Anthropic, qui commercialise les modèles Claude, s'appuie aujourd'hui sur trois fournisseurs principaux : Google, Amazon et Nvidia. Ce potentiel contrat avec Fractile constituerait donc une quatrième source d'approvisionnement en matériel. L'enjeu est stratégique : les ventes d'Anthropic connaissent une croissance explosive qui met sous pression les serveurs existants, et les dépenses de la société en infrastructure sont projetées à plusieurs dizaines de milliards de dollars par an. En diversifiant ses fournisseurs, Anthropic se dote d'un levier de négociation face à des géants comme Nvidia, dont les puces restent en forte demande. Les puces d'inférence de Fractile sont conçues pour faire tourner des modèles d'IA de manière plus efficiente, ce qui peut réduire les coûts opérationnels à grande échelle. Cette démarche s'inscrit dans une tendance de fond : les grands laboratoires d'IA cherchent à réduire leur dépendance à Nvidia, dont les GPU H100 et Blackwell sont devenus un goulot d'étranglement mondial. Des acteurs comme Google avec ses TPU, ou Amazon avec ses puces Trainium, développent déjà leurs alternatives en interne. Fractile, startup britannique encore confidentielle, tente de s'imposer sur ce marché émergent des puces d'inférence spécialisées, où la compétition s'intensifie rapidement.

InfrastructureActu
1 source
Implémentation pratique : analyse, visualisation et affinage de traces de raisonnement d'agents
4098MarkTechPost 

Implémentation pratique : analyse, visualisation et affinage de traces de raisonnement d'agents

Un tutoriel de programmation publié récemment propose une approche complète pour exploiter le jeu de données lambda/hermes-agent-reasoning-traces, une collection structurée de traces de raisonnement issues de modèles d'agents IA. Le guide couvre quatre étapes distinctes : le chargement et l'inspection du dataset, la construction de parseurs pour extraire les composants clés (traces de réflexion, appels d'outils, réponses), l'analyse statistique des comportements (fréquence d'utilisation des outils, longueur des conversations, taux d'erreurs), et enfin la conversion du dataset dans un format compatible avec l'entraînement supervisé. Le dataset est disponible en plusieurs configurations, notamment "kimi" et "glm-5.1", correspondant à des architectures d'agents différentes, et peut être chargé via la bibliothèque Hugging Face datasets. Les outils utilisés incluent Python 3, pandas, matplotlib, seaborn, transformers, accelerate et trl. Comprendre comment un agent IA raisonne en interne avant d'agir est un enjeu clé pour quiconque cherche à améliorer, déboguer ou affiner ces systèmes. Ce tutoriel permet de séparer concrètement la "pensée" interne d'un modèle (blocs `) de ses actions externes (blocs ) et des retours qu'il reçoit (), grâce à des parseurs basés sur des expressions régulières. Cette granularité est précieuse pour les équipes qui développent des agents autonomes : elle permet de détecter des comportements anormaux, d'identifier des appels d'outils malformés, ou de repérer des patterns de raisonnement défaillants avant de lancer un cycle de fine-tuning. La dernière étape du guide, la préparation du dataset pour le supervised fine-tuning (SFT), rend les données directement exploitables avec des frameworks comme TRL de Hugging Face. Le dataset hermes-agent-reasoning-traces` s'inscrit dans un mouvement plus large de publication de données d'entraînement spécialisées pour les agents IA multi-tours, capables d'utiliser des outils externes. Avec l'essor des architectures de type "agentic" dans des produits comme les assistants à code, les agents de recherche ou les copilotes professionnels, la qualité des traces de raisonnement utilisées pour l'entraînement devient un levier différenciant. Des acteurs comme Lambda, Kimi (Moonshot AI) ou encore les équipes derrière GLM (Tsinghua/Zhipu AI) contribuent à cet écosystème de données ouvertes. La tendance va vers des modèles capables de justifier leurs décisions étape par étape, ce qui exige précisément le type d'infrastructure d'analyse décrite dans ce tutoriel. Les prochaines évolutions pourraient inclure des métriques automatisées de qualité du raisonnement ou des benchmarks standardisés sur ce type de traces.

LLMsTuto
1 source
[AINews] AI Engineer World's Fair : appel à conférenciers (agents autonomes, mémoire, modèles du monde, IA verticale)
4099Latent Space 

[AINews] AI Engineer World's Fair : appel à conférenciers (agents autonomes, mémoire, modèles du monde, IA verticale)

La conférence AI Engineer World's Fair annonce sa deuxième vague d'appel à orateurs pour l'édition 2026, qui se tiendra pour la première fois au Moscone West de San Francisco cet été. L'organisation cible en priorité des intervenants capables de traiter six nouveaux thèmes : l'autorecherche récursive (boucles d'amélioration autonome des modèles), la gestion de la mémoire dans les agents, les modèles du monde pour l'intelligence spatiale, le "tokenmaxxing" (adoption intensive de l'IA en entreprise sans gaspillage), le commerce agentique (paiements entre agents pour accéder à des données ou des API), et l'IA verticale dans le droit, la santé, le go-to-market et la finance. Les candidatures sont ouvertes via la plateforme Sessionize, avec remboursement du billet pour les orateurs retenus. L'événement coïncide avec la Coupe du Monde de football, également prévue à San Francisco cette semaine-là. L'édition 2026 marque un cap important pour l'écosystème de l'ingénierie IA : la conférence double de taille pour la troisième année consécutive et dépasse désormais le million de profils uniques par mois. Pour la première fois, un "Startup Battlefield" sera intégré au programme, permettant aux fondateurs de startups pré-série A de pitcher devant un panel de capital-risqueurs. La robotique bénéficiera également d'un espace expo gratuit sur le floor pour les démos physiques, après des présentations remarquées l'an dernier de Physical Intelligence, Waymo, Tesla et Nvidia. L'événement se positionne explicitement comme un lieu de recrutement, de levée de fonds et de deals commerciaux à grande échelle, pas seulement une tribune académique. Lancée avec une stratégie éditoriale baptisée "Scaling without Slop" en janvier 2026, la World's Fair s'est imposée comme la référence technique annuelle pour les ingénieurs IA, surpassant des événements plus institutionnels. L'organisateur, la communauté Latent Space, publie également AINews, une newsletter quotidienne qui agrège les signaux du secteur depuis une douzaine de subreddits et plus de 500 comptes Twitter. L'appel à orateurs en deux vagues reflète une volonté d'élargir le vivier au-delà du réseau habituel, en ciblant des praticiens qui ne se seraient pas spontanément manifestés. Les thèmes retenus pour 2026 dessinent une cartographie des défis techniques les plus actifs du moment : l'autonomie des agents, leur capacité à apprendre de l'usage, et leur intégration dans des secteurs réglementés à fort enjeu.

BusinessActu
1 source
NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B
4100MarkTechPost 

NVIDIA : le décodage spéculatif dans NeMo RL accélère la génération de 1,8× à 8B et vise 2,5× à 235B

Des chercheurs de NVIDIA ont publié une étude intégrée à NeMo RL v0.6.0 qui accélère significativement la phase d'entraînement par renforcement des grands modèles de langage grâce au décodage spéculatif. Le principe repose sur un petit modèle dit "brouillon" qui propose plusieurs tokens en avance, tandis que le modèle principal, celui qu'on entraîne réellement, les vérifie via un mécanisme de rejet statistique. Sur 32 GPU GB200 (8 nœuds NVL72), cette approche réduit la latence de génération de 100 secondes à 56,6 secondes sur la tâche RL-Zero, soit un gain de 1,8× sur la génération. À l'échelle d'un modèle de 235 milliards de paramètres, les projections donnent un gain de bout en bout de 2,5×. Le framework EAGLE-3 est utilisé comme moteur de brouillon, compatible avec n'importe quel modèle pré-entraîné sans nécessiter de tête de prédiction multi-token native. Ce résultat est particulièrement précieux parce qu'il ne sacrifie rien à la fidélité d'entraînement. La génération par rollout représente entre 65 et 72 % du temps total d'une étape RL, mesure faite sur Qwen3-8B dans deux configurations, RL-Think et RL-Zero. C'est donc le seul goulet d'étranglement qui vaille la peine d'être attaqué. Or les méthodes habituelles d'accélération, exécution asynchrone, replay hors-politique, précision réduite, introduisent toutes un décalage de distribution qui contamine le signal d'entraînement. Le décodage spéculatif, lui, garantit mathématiquement que la distribution de sortie du modèle cible reste identique à ce qu'elle aurait été sans brouillon. Aucune correction hors-politique, aucun biais introduit dans la récompense. L'intégration dans une boucle d'entraînement par renforcement posait néanmoins un défi d'ingénierie non trivial : à chaque mise à jour des poids de la politique, le modèle brouillon doit rester aligné avec cette politique en évolution. NVIDIA a résolu cela avec une architecture à deux chemins dans NeMo RL, un chemin général via EAGLE-3 et un chemin natif pour les modèles disposant de têtes MTP intégrées. Lorsque l'adaptation en ligne du brouillon est activée, les états cachés et log-probabilités issus du passage avant du vérificateur MegatronLM sont réutilisés pour superviser la tête brouillon via un gradient détaché, de sorte que l'entraînement du brouillon n'interfère jamais avec le gradient de politique. Cette fonctionnalité est désormais disponible en production dans NeMo RL v0.6.0, aux côtés du backend SGLang, de l'optimiseur Muon et de l'entraînement long contexte YaRN.

LLMsPaper
1 source