Actualités IA — page 18

7 552 articles au fil, du plus récent au plus ancien.

45

341Latent Space 

SpaceX/xAI: Grok 4.6 est sorti et un bot Grok arrive

xAI a dévoilé Grok 4.6 le 11 août 2026, un modèle de 1,5 billion de paramètres présenté comme construit sur Grok 4.5, avec un accent particulier sur les agents à exécution longue et les tâches interactives ou visuelles complexes. Selon xAI, l'entraînement a combiné une phase supplémentaire plus longue que pour Grok 4.5, des données générées par modèle pour le raisonnement et des concepts techniques avancés, ainsi qu'un optimiseur amélioré ; les trajectoires de fine-tuning supervisé ont ensuite été régénérées via Grok 4.5 sur plusieurs domaines (STEM, ingénierie logicielle, travail de connaissance), avant un apprentissage par renforcement agentique portant sur le code général, le développement web, la conception assistée par ordinateur et l'optimisation de noyaux. Les évaluations indépendantes d'Artificial Analysis placent Grok 4.6 à 61 points sur leur Intelligence Index, un niveau proche de GPT-5.6 Sol Max mais derrière Claude Opus et Fable, avec de solides résultats agentiques : 88,4 % sur Terminal-Bench v2.1 et un score Elo de 1753 sur GDPval-AA v2. Sa tarification, 2 dollars par million de tokens en entrée et 6 dollars en sortie, reste nettement inférieure à celle des modèles concurrents de pointe, et le modèle est déjà disponible dans l'outil Devin de Cognition. Elon Musk a par ailleurs annoncé que Grok 4.7 est déjà en entraînement, avec une phase initiale achevée et un entraînement complémentaire prévu sur des données internes de SpaceX. Le même jour, Alibaba a publié en poids ouverts Qwen3.8-Max, un modèle MoE de 2,4 billions de paramètres au total dont 95 milliards actifs, immédiatement pris en charge par vLLM ainsi que par Together AI et Baseten, avec des versions quantifiées en 4 bits pour les puces Nvidia B300 et AMD MI355X. Ce lancement s'inscrit dans une bataille de plus en plus vive autour du rapport qualité-prix des modèles destinés aux tâches professionnelles et au codage agentique. Des praticiens ont immédiatement désigné Grok 4.6 comme nouveau choix par défaut pour les charges de travail de codage et de détection de bugs, grâce à des performances proches des meilleurs modèles du marché pour une fraction de leur coût. Cette dynamique menace de comprimer les marges des offres concurrentes plus chères tout en accélérant l'adoption d'agents IA autonomes capables de gérer des tâches longues et complexes en entreprise. Cette annonce s'inscrit dans une journée particulièrement dense pour l'industrie, marquée aussi par les sorties de DeepSeek V4 Pro et de MAI-Thinking-1 chez Microsoft, illustrant l'intensification de la course entre laboratoires. Elle confirme également une tendance observée tout au long de l'année 2026 : les agents de codage débordent progressivement du développement logiciel pur vers l'ensemble du travail de connaissance, un terrain que xAI, Anthropic avec sa fonctionnalité Tag et Block avec son outil Buzz se disputent désormais activement.

LLMs⚡Actu

Aussi sur01net

43

342The Information AI 

Nebius et CoreWeave profitent de la flambée des prix du calcul IA

Nvidia a repris l'avantage sur Apple en Bourse de façon spectaculaire. Il y a deux semaines à peine, Apple avait dépassé Nvidia en capitalisation boursière. Depuis, la tendance s'est totalement inversée : l'action Nvidia a grimpé de 18%, tandis que celle d'Apple a chuté d'environ 10%. À la clôture des marchés, la capitalisation de Nvidia dépassait désormais celle d'Apple de 1 000 milliards de dollars. Ce renversement s'explique en partie par des dynamiques de marché plus larges, notamment liées à la situation autour de la guerre en Iran, mais aussi par une envolée spectaculaire des prix de location des puces d'intelligence artificielle. Deux fournisseurs cloud de taille modeste soutenus par Nvidia, CoreWeave et Nebius, ont livré des indices concrets de cette tension lors de leurs publications de résultats trimestriels ces deux derniers jours. Le directeur général de Nebius, Arkady Volozh, a révélé que l'entreprise avait organisé sa toute première enchère de capacité de calcul au deuxième trimestre, avec des prix pour les puces Blackwell de Nvidia supérieurs de 15% au tarif le plus élevé jamais pratiqué jusqu'ici. Cette flambée des prix de calcul illustre à quel point la demande pour la puissance de calcul liée à l'IA reste insatiable, bien au-delà de l'offre disponible. Pour les entreprises de cloud spécialisées comme Nebius et CoreWeave, cette rareté se traduit directement en marges accrues, puisqu'elles peuvent désormais facturer leurs clients à des tarifs record. Pour l'ensemble de l'industrie de l'IA, ce signal confirme que les goulots d'étranglement matériels, loin de se résorber, s'intensifient, ce qui pourrait renchérir le coût de développement et d'exploitation des modèles pour les entreprises clientes. Ce contexte s'inscrit dans une course effrénée à l'infrastructure IA, où Nvidia domine largement le marché des puces spécialisées, notamment avec sa génération Blackwell. Nebius a d'ailleurs ajusté sa stratégie commerciale en vendant une part croissante de sa capacité au plus près du moment où les clients en ont besoin, une méthode qui lui permet de profiter pleinement de ces prix élevés. Cette dynamique pourrait se poursuivre tant que l'offre de puces peinera à suivre le rythme de la demande mondiale pour l'entraînement et l'exécution des modèles d'IA.

Infrastructure⚡Actu

1 source

44

343Apple Machine Learning 

Quand le désapprentissage est gratuit : exploiter les points à faible influence pour réduire les coûts de calcul

Une équipe de chercheurs remet en question un principe central des méthodes de désapprentissage automatique, ou "machine unlearning", ces techniques qui permettent de supprimer l'influence de données spécifiques dans un modèle d'intelligence artificielle déjà entraîné, sans devoir tout réentraîner depuis zéro. Dans leurs travaux intitulés "When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs", les auteurs observent que les approches actuelles traitent tous les points de l'ensemble à oublier, le "forget set", de la même manière, qu'ils aient ou non un réel poids dans les prédictions du modèle. Pour vérifier cette hypothèse, l'équipe a mené une analyse comparative des fonctions d'influence sur des tâches de traitement du langage et de vision par ordinateur, et a identifié des sous-ensembles de données d'entraînement dont l'impact sur les sorties du modèle s'avère négligeable. Cette découverte a une portée pratique directe pour les entreprises qui doivent se conformer aux exigences croissantes de protection des données, comme le droit à l'effacement prévu par le RGPD en Europe. Si une partie des données à supprimer n'influence quasiment pas le comportement du modèle, l'exclure du processus de désapprentissage permettrait d'économiser un temps de calcul et des ressources considérables, sans compromettre la conformité réglementaire ni la fidélité du modèle final. Ce travail s'inscrit dans un contexte où les modèles de langage et de vision sont entraînés sur des volumes de données toujours plus massifs, rendant le réentraînement complet coûteux et peu pratique à chaque demande de suppression. En questionnant l'hypothèse d'un traitement uniforme du forget set, cette recherche ouvre la voie à des méthodes de désapprentissage plus ciblées et moins gourmandes en ressources, un enjeu appelé à prendre de l'ampleur à mesure que les régulations sur la vie privée se durcissent à l'échelle mondiale.

Recherche❖Paper

1 source

43

344Ars Technica AI 

Twitch a formé l'IA d'Amazon pendant des années, mais les utilisateurs peuvent désormais refuser

Amazon vient de donner aux streamers de Twitch la possibilité de refuser l'utilisation de leur contenu pour entraîner ses modèles d'intelligence artificielle générative. Selon une page d'assistance mise à jour et publiée ce jour, la plateforme de streaming, propriété d'Amazon, précise que les diffusions en direct, les vidéos à la demande (VOD), les clips, les messages de chat ainsi que les images et textes affichés sur une chaîne peuvent servir à entraîner de futurs modèles développés par Amazon capables de générer ou synthétiser du texte, de l'audio, des images ou de la vidéo. Pour s'y opposer, les utilisateurs doivent désormais se rendre dans les paramètres de sécurité de leur compte, à l'adresse www.twitch.tv/settings/security, et activer l'option de retrait correspondante. Cette annonce intervient plus de deux ans après qu'un cadre de l'entreprise a confirmé publiquement qu'Amazon exploitait déjà le contenu de Twitch pour entraîner ses systèmes d'IA, sans que les créateurs en aient été clairement informés ni n'aient eu la possibilité de refuser. Pour des millions de streamers qui produisent quotidiennement des heures de vidéo, de voix et d'interactions textuelles, cette mise à jour représente enfin un levier de contrôle sur l'utilisation commerciale de leur travail créatif, dans un contexte où les données humaines sont devenues une matière première stratégique pour l'entraînement des grands modèles génératifs. Cette évolution s'inscrit dans une pression croissante, réglementaire et publique, sur les géants technologiques pour qu'ils encadrent l'usage des contenus utilisateurs dans l'IA, à l'image de débats similaires chez YouTube, Meta ou X. Reste que l'opt-out proposé par Twitch fonctionne par défaut dans le sens inverse de la protection : les utilisateurs sont inclus automatiquement et doivent agir activement pour se retirer, une approche qui continue d'alimenter les critiques sur la transparence réelle des plateformes envers leurs communautés de créateurs.

Éthique⚡Actu

Aussi surTechCrunch AI

45

345VentureBeat AI 

Quatre entreprises sur cinq ayant sécurisé leurs identités d'agents IA ne parviennent toujours pas à contenir un agent devenu incontrôlable

Lors de la conférence VB Transform 2026, Rajat Taneja, président technologie de Visa, a expliqué comment son entreprise a testé le modèle Mythos d'Anthropic contre son propre réseau de paiement, l'IA parvenant à assembler des failles mineures en chaînes d'exploitation fonctionnelles ; Visa a ensuite publié en open source l'outil ayant encadré cette recherche. Une enquête VentureBeat Pulse Research, menée en six vagues depuis janvier 2026 auprès de 440 responsables sécurité d'entreprise, montre que ce niveau de rigueur reste l'exception. En juillet, 53% des entreprises interrogées avaient déjà subi un incident de sécurité lié à des agents IA ou évité un tel incident de justesse. 65% appliquent des permissions d'agents en temps réel, mais seulement 18% isolent leurs agents les plus à risque et 8% seulement combinent les deux mesures. Enfin, 92% des entreprises ayant désigné une couche de sécurité principale s'en remettent par défaut à leurs fournisseurs hyperscalers ou de plateformes IA. Ce décalage traduit une confiance mal calibrée envers les outils de sécurité. En juillet, les 46 entreprises ayant signalé un incident confirmé ou évité de justesse ont attribué à leurs outils une satisfaction moyenne de 4,39 sur 5, contre 4,13 pour les entreprises n'ayant subi aucun incident. Comme les quasi-incidents surpassent les incidents confirmés dans un ratio de deux pour un, les entreprises interprètent ces sauvetages de dernière minute comme la preuve que leur stratégie fonctionne. Signe plus préoccupant encore, les entreprises qui isolent réellement leurs agents les plus sensibles se montrent plus critiques, avec une note moyenne de 4,00 contre 4,35 chez celles qui n'isolent rien, ce qui montre que les organisations les plus avancées en sécurité restent paradoxalement les moins satisfaites de leurs outils. Cette situation s'inscrit dans une adoption rapide mais inégale des identités propres à chaque agent IA. En juillet, 49% des entreprises, soit 57 sur 116 sondées, attribuaient à chaque agent une identité individuelle et gérée, contre 32% en juin, la progression mensuelle la plus rapide enregistrée par cette série d'enquêtes. Malgré ce bond, 63% des entreprises signalent encore un partage d'identifiants dans leur parc d'agents, et parmi les 57 ayant mis en place des identités individuelles, 11 seulement combinent cette mesure avec l'isolation. Pour VentureBeat, les entreprises traitent l'identité et l'isolation comme des solutions interchangeables plutôt que complémentaires, ce qui explique pourquoi l'écart entre les besoins de sécurité et les mesures réellement déployées continue de se creuser. L'exemple de Visa, qui a mobilisé une expertise d'ingénierie poussée pour transformer un test offensif en outil open source, illustre le chemin qu'il reste à parcourir pour la majorité des entreprises face à la multiplication des agents autonomes dans leurs systèmes critiques.

Sécurité⚡Actu

1 source

40

346MarkTechPost 

Tulu 3 d'AllenAI : post-entraînement avec SFT, DPO, RLVR, GRPO et évaluation par vérificateurs

AllenAI a publié un tutoriel technique détaillant la reconstruction complète du pipeline de post-entraînement Tulu 3, initialement conçu pour des clusters multi-GPU, afin de le faire tenir sur une seule carte graphique disposant de 16 Go de mémoire, comme celles proposées gratuitement sur Google Colab. Le guide s'appuie sur le framework open source Open Instruct d'AllenAI et enchaîne trois étapes d'entraînement : le fine-tuning supervisé (SFT), l'optimisation directe des préférences (DPO), puis l'apprentissage par renforcement à récompenses vérifiables (RLVR) via l'algorithme GRPO. Le code clone le dépôt Open Instruct, réutilise ses fonctions natives de calcul de perte et d'utilitaires, configure des adaptateurs LoRA pour limiter le nombre de paramètres entraînés, et prépare le jeu de données mathématiques GSM8K pour chacune des trois phases. Des vérificateurs déterministes contrôlent ensuite si les réponses générées par le modèle aux problèmes de mathématiques sont correctes, servant de signal de récompense pour la phase RLVR. Les composants distribués d'origine, vLLM, les acteurs Ray, DeepSpeed et les files de rollout asynchrones, sont remplacés par des implémentations légères reposant sur Hugging Face et PyTorch. Cette démonstration a une portée pratique importante pour la communauté du machine learning : elle rend accessible à des développeurs individuels ou de petites équipes une chaîne d'entraînement qui reproduit fidèlement la logique d'optimisation utilisée pour des modèles de référence, sans nécessiter l'infrastructure coûteuse habituellement associée à ce type de travaux. Le fait de conserver les fonctions de perte et les mécanismes d'origine, plutôt que de les réécrire de zéro, garantit que les résultats obtenus restent comparables à ceux du pipeline officiel, ce qui est précieux pour l'expérimentation, l'enseignement et la recherche reproductible. L'utilisation de récompenses vérifiables sur des problèmes mathématiques illustre aussi une tendance plus large dans l'entraînement des modèles de raisonnement, où des critères de correction objectifs remplacent des évaluations humaines coûteuses. Tulu 3 est la famille de modèles ouverts développée par l'Allen Institute for AI, conçue pour rivaliser avec des modèles propriétaires tout en documentant intégralement ses recettes de post-entraînement. Open Instruct constitue l'infrastructure logicielle qui sous-tend cet entraînement, habituellement pensée pour tourner sur de larges clusters GPU avec des outils comme Ray ou DeepSpeed. La technique GRPO, popularisée notamment par les travaux sur les modèles de raisonnement de type DeepSeek R1, associe apprentissage par renforcement et vérification automatique des réponses pour améliorer les capacités de raisonnement sans supervision humaine directe. En proposant une version simplifiée exécutable sur une configuration modeste, ce tutoriel s'inscrit dans un mouvement plus vaste visant à démocratiser l'accès aux méthodes avancées d'alignement et de raisonnement des grands modèles de langage, ouvrant la voie à davantage d'expérimentation indépendante et de reproductibilité scientifique dans ce domaine.

LLMs≡Tuto

1 source

46

347The Decoder 

Les chercheurs parviennent à reconstituer les prompts d'un LLM à partir du texte généré avec une précision quasi parfaite

Les chercheurs de l'IIT Bombay et d'Adobe Research ont mis au point une méthode capable de reconstruire quasiment parfaitement le prompt original ayant généré un texte produit par un grand modèle de langage. Baptisée "Previous-Token Prediction", cette technique repose sur un modèle de langage inverse qui analyse le texte de sortie pour en déduire les instructions initiales. Sa particularité tient au fait qu'elle ne nécessite aucun accès aux poids internes du modèle visé et fonctionne indépendamment du système utilisé, ce qui la rend applicable à une large variété de LLM commerciaux ou propriétaires. Cette avancée soulève une inquiétude sérieuse pour les entreprises qui bâtissent une partie de leur avantage concurrentiel sur des prompts système soigneusement conçus et gardés secrets. De nombreux produits basés sur l'IA générative, des chatbots aux assistants spécialisés, dépendent d'instructions internes optimisées pour orienter le comportement du modèle, filtrer certains contenus ou personnaliser les réponses. Si ces prompts peuvent être extraits simplement en observant les réponses générées, la protection de cette propriété intellectuelle devient illusoire, exposant les entreprises à un risque de copie rapide de leurs configurations les plus sophistiquées par des concurrents. Cette découverte s'inscrit dans un débat plus large sur la sécurité et la confidentialité des systèmes d'intelligence artificielle déployés commercialement. Depuis l'essor des LLM, plusieurs tentatives d'extraction de prompts système avaient déjà été rapportées, souvent via des manipulations directes de l'utilisateur final, mais cette nouvelle méthode automatisée et quasi systématique change l'échelle du problème. Elle relance la question de savoir comment les entreprises pourront protéger leurs configurations propriétaires à l'avenir, que ce soit par des techniques de watermarking, une architecture différente des systèmes de prompt, ou une évolution des pratiques de sécurité entourant le déploiement des modèles génératifs.

Sécurité⚡Actu

1 source

51

348The Verge AI 

Twitch permet aux streamers de refuser l'entraînement de l'IA d'Amazon

Twitch a annoncé que les créateurs peuvent désormais refuser que leurs contenus servent à l'entraînement des modèles d'intelligence artificielle générative d'Amazon, propriétaire de la plateforme depuis 2014. Selon une page d'assistance de Twitch, ce refus couvre les streams en direct, les VOD, les clips, les discussions de chat, ainsi que les images et textes affichés sur la chaîne, qui ne pourront plus alimenter l'entraînement de futurs modèles Amazon capables de générer du texte, de l'audio, des images ou de la vidéo. Les fonctionnalités déjà assistées par IA, comme les sous-titres automatiques et les outils de modération, continuent de fonctionner malgré ce refus, et dans le chat d'un autre streamer, ce sont les préférences de ce dernier qui priment sur celles du participant. Cette option donne aux créateurs un droit de regard concret sur l'usage de leur image, de leur voix et de leur style dans des systèmes d'IA générative, un sujet sensible pour une communauté qui tire ses revenus de son identité en ligne. Elle permet de protéger des années de contenus personnels contre une réutilisation automatisée sans consentement explicite, et pourrait atténuer les critiques visant les grandes plateformes accusées d'exploiter les données de leurs utilisateurs pour développer des produits commerciaux. Ce mécanisme s'inscrit dans un mouvement plus large de tensions entre créateurs et plateformes autour du consentement aux données d'entraînement de l'IA, alors que les poursuites judiciaires pour usage non autorisé de contenus protégés se multiplient dans l'industrie technologique. Amazon, qui développe ses propres modèles génératifs, cherche ainsi à sécuriser ses sources de données tout en ménageant sa communauté de streamers, dans un contexte où d'autres plateformes comme YouTube et Meta font face à des pressions similaires pour proposer des options équivalentes.

Éthique⚡Actu

Aussi surFrandroid,Le Monde Pixels,01net

44

349VentureBeat AI 

SpaceXAI dévoile Grok 4.6, dépasse Kimi K3 et rejoint GPT-5.6 Sol au 3e rang mondial sur Artificial Analysis

SpaceXAI, l'entreprise d'Elon Musk anciennement appelée xAI, a dévoilé Grok 4.6, son nouveau modèle d'IA de pointe conçu pour les agents de longue durée, le codage et les tâches de connaissance. Le modèle obtient un score de 61 sur l'Artificial Analysis Intelligence Index, dépassant le modèle chinois Kimi K3 de Moonshot AI, égalant GPT-5.6 Sol Max d'OpenAI, et progressant de cinq points par rapport à Grok 4.5 High, derrière Claude Opus 5 et Claude Fable 5 d'Anthropic, premier et deuxième du classement. Son API démarre à 2 dollars par million de tokens en entrée et 6 dollars en sortie sous 200 000 tokens de contexte (4 et 12 dollars au-delà), soit moins de la moitié du tarif standard de GPT-5.6 Sol. Le modèle est disponible dans Grok Build, via l'abonnement SuperGrok à 30 dollars par mois, ainsi que dans Cursor, la startup de codage récemment rachetée par SpaceX, et chez des partenaires comme OpenRouter, Vercel et Cloudflare, avec des quotas doublés durant la première semaine. Ce lancement marque un glissement du benchmark pur vers la fiabilité des agents en conditions réelles : pour les entreprises, l'enjeu est la capacité d'un modèle à rester concentré sur une tâche longue, qu'il s'agisse d'explorer un sujet inconnu, d'analyser des données, de naviguer dans une base de code ou de transformer une idée en application fonctionnelle. En associant des gains notables sur les benchmarks de codage, de terminal et d'agents à un prix resté inférieur à celui de plusieurs rivaux propriétaires, SpaceXAI cherche à rendre ces usages prolongés économiquement viables à grande échelle. Cela accentue aussi la pression tarifaire sur OpenAI et Anthropic, dont les modèles haut de gamme coûtent nettement plus cher à l'usage, tout en concurrençant des acteurs chinois comme DeepSeek ou Xiaomi, souvent moins onéreux. Ce lancement s'inscrit dans une cadence très rapide chez SpaceXAI, qui a mis à jour son modèle phare presque mensuellement depuis Grok 4.5 en juillet, tout en élargissant son écosystème avec Grok Bot, lancé la veille pour assigner des agents IA à des tâches définies, en guise d'employés virtuels. SpaceXAI indique avoir soumis Grok 4.6 à un entraînement supplémentaire plus long, combinant données de raisonnement générées par IA et données d'ingénierie, puis utilisé Grok 4.5 pour régénérer des trajectoires d'affinage supervisé en codage, sciences et travail de connaissance, filtrées par des contrôles automatisés. Un entraînement par renforcement a ensuite ciblé des environnements agentiques variés, du codage général à la conception assistée par ordinateur, traduisant une bataille plus large entre laboratoires où la durée d'attention et le coût priment désormais sur le seul score brut.

LLMs⚡Actu

1 source

39

350MIT Technology Review 

Scaling des agents IA avec des données fiables

Une étude publiée par Insights, la division de contenu sur mesure de la MIT Technology Review, et menée auprès de 300 dirigeants data et technologie dans de grandes organisations, dresse un état des lieux de l'accès des agents d'intelligence artificielle aux données d'entreprise. En moyenne, ces agents n'ont accès qu'à 45% des données de leur organisation. Ce taux chute à 30% ou moins chez les entreprises classées comme "retardataires en matière de données", alors qu'un groupe restreint de "leaders en matière de données" leur ouvre l'accès à plus de 70% de leurs données. Seule la moitié environ des organisations interrogées disent faire confiance aux décisions prises par leurs agents IA, contre 100% chez les leaders. Deux tiers des retardataires, soit 66%, estiment que leurs systèmes de données historiques limitent le passage à l'échelle de leurs agents, et 68% affirment qu'ils freinent la rapidité de leurs décisions, contre seulement 8% chez les leaders. D'ici deux ans, la totalité des répondants prévoit d'utiliser l'IA agentique, et 69% s'attendent à l'employer à grande échelle dans leurs opérations. Ces résultats mettent en évidence un point de blocage central pour l'industrie: le retour sur investissement promis par l'IA agentique dépend directement de la qualité et de l'accessibilité des données sous-jacentes. Contrairement aux chatbots qui se contentent de répondre à des questions, les agents doivent désormais agir dans des systèmes opérationnels réels, qu'il s'agisse de chaînes d'approvisionnement, de points de vente ou de ressources humaines, souvent aussi bien avec des données structurées que non structurées et le bon contexte métier. Une architecture de données obsolète ne se contente donc plus de ralentir les analyses, elle prive directement les agents de la capacité à prendre les bonnes décisions au bon moment. Pour les entreprises, les directions informatiques et les équipes data, cela signifie que la modernisation de l'infrastructure devient un prérequis, et non une option secondaire, avant tout déploiement massif d'agents autonomes. Cette pression s'inscrit dans un contexte où le cabinet Gartner prévoit que les agents IA participeront à l'automatisation ou à l'augmentation de 50% des décisions d'entreprise d'ici 2027. Si cette projection se confirme, les organisations qui n'auront pas éliminé les goulots d'étranglement liés à leurs systèmes hérités risquent de se retrouver dépassées par leurs concurrents mieux préparés. Le rapport identifie l'amélioration de l'accès aux données structurées et non structurées comme la priorité numéro un pour permettre le passage à l'échelle, suivie du renforcement de la gouvernance des données et de l'IA avec du contexte métier, tandis que les leaders misent aussi fortement sur l'automatisation de la gestion des données. L'étude, réalisée par des chercheurs et rédacteurs humains, souligne ainsi qu'une IA fiable repose avant tout sur une fondation de données fiable et accessible.

Business⚡Actu

1 source

46

351The Information AI 

Comment une start-up crée des contrats façon Wall Street pour les tokens d'IA

WEKA, une société d'infrastructure de mémoire et de données pour l'IA, a fait des déclarations relayées cette semaine par The Information au sujet du lancement de Compute Exchange, une startup qui met déjà en relation propriétaires de puces et loueurs de GPU à court terme. Compute Exchange étend désormais ce modèle aux tokens, les unités que les entreprises paient réellement lorsqu'elles utilisent des modèles d'IA. La startup proposera des "token forwards", des contrats négociés de gré à gré permettant aux entreprises de verrouiller leurs prix de tokens sur des périodes allant jusqu'à six mois, afin de se couvrir contre les variations futures des coûts d'IA. Les clients pourront choisir parmi divers modèles, majoritairement à poids ouverts, proposés par six fournisseurs d'inférence déjà inscrits sur la plateforme. Parallèlement, Compute Exchange développe des "standardized token units", une méthodologie destinée à harmoniser les comparaisons de prix. Cette initiative fait écho à l'annonce, mardi, par CME Group d'un lancement en octobre de deux contrats à terme sur GPU cotés en bourse, sous réserve d'un examen réglementaire. Cette évolution répond à une explosion de la consommation de tokens, portée par l'inférence, c'est-à-dire le processus par lequel les modèles reçoivent des requêtes et produisent des réponses. Selon Deloitte, l'inférence représentera environ deux tiers des charges de travail liées à l'IA d'ici fin 2026, contre un tiers en 2023, sous l'effet de la montée des agents autonomes. Après une phase où des entreprises comme Meta Platforms encourageaient l'usage massif de tokens via des classements internes compétitifs, un phénomène surnommé le "tokenmaxxing", des sociétés comme Uber et ServiceNow ont annoncé avoir épuisé leur budget annuel d'IA en quelques mois seulement, entraînant de nouvelles restrictions sur les dépenses des employés. Pour Val Bercovici, chief AI officer de WEKA, société spécialisée dans l'infrastructure de données et de mémoire pour l'IA, verrouiller le prix des tokens aiderait entreprises et startups à mieux maîtriser leurs dépenses : "tout le monde s'efforce de comprendre ses factures cloud", a-t-il déclaré, ajoutant que le "tokenmaxxing" est passé d'un signe de fierté à un motif de honte. Ce mouvement s'inscrit dans une tendance plus large visant à importer des mécanismes de couverture financière, inspirés de Wall Street, dans l'économie de l'intelligence artificielle. Alors que des milliers de milliards de dollars doivent être investis dans les puces et les centres de données, acheteurs et vendeurs cherchent des outils pour stabiliser leurs coûts et leurs retours sur investissement, ce qui a déjà donné naissance à des marketplaces de location de GPU. Bercovici pointe la complexité croissante liée à des modèles plus grands, des fenêtres de contexte élargies, des agents capables de fonctionner de manière autonome pendant des jours voire des semaines, ainsi que l'émergence de nouvelles menaces de cybersécurité, autant de facteurs qui rendent le marché des tokens opaque. Il estime que ce marché a besoin de chambres de compensation pour gagner en transparence. Les "token forwards" ne sont pas des contrats à terme standardisés comme ceux prévus par CME Group, mais ils représentent une étape supplémentaire vers une financiarisation plus poussée des coûts liés à l'intelligence artificielle.

Business⚡Actu

1 source

38

352Microsoft Research 

VLMs et raisonnement spatial : MindTopo évalue les capacités des modèles

Une nouvelle étude introduit MindTopo, un benchmark conçu pour évaluer si les grands modèles multimodaux (VLM) possèdent une véritable intuition de la topologie en trois dimensions, c'est-à-dire la capacité à comprendre des relations structurelles comme la connectivité, la séparation, l'ordre, l'enfermement (inside/outside) et les nœuds, indépendamment des distances ou des angles exacts. Le benchmark s'organise autour de cinq catégories inspirées de la classification cognitive de Piaget: la continuité (un chemin reste-t-il ininterrompu), la séparation (des éléments proches forment-ils une seule structure ou des parties distinctes), l'ordre (comment les éléments s'arrangent le long d'une transformation), l'enfermement (une frontière crée-t-elle un intérieur et un extérieur) et les nœuds (une corde est-elle réellement nouée ou seulement emmêlée en apparence). Chaque catégorie est testée à deux niveaux: des tâches de raisonnement, où le modèle observe une scène statique et répond à une question (deux points d'un labyrinthe sont-ils reliés, des moutons sont-ils à l'intérieur d'un enclos), et des tâches de planification, où le modèle doit agir dans un environnement simulé, par exemple faire pivoter des segments de tuyaux, tracer un chemin séparateur, réarranger des blocs ou démêler des cordes, sans jamais pouvoir faire passer un brin à travers un autre puisque les actions illégales sont bloquées par le simulateur. Les résultats montrent un écart net entre la reconnaissance statique et la planification interactive: les modèles multimodaux actuels identifient assez bien un chemin connecté, une zone enfermée ou un nœud sur une image fixe, mais cette compréhension s'effondre dès qu'il faut la maintenir à travers une séquence d'actions. Les échecs surviennent surtout au moment de la planification, quand les modèles perdent le fil des relations structurelles à mesure que la scène évolue, ou proposent des actions qui violent des contraintes physiques élémentaires. Ce constat révèle une faiblesse critique pour toute application impliquant de la robotique ou des environnements interactifs, où savoir ce qui reste connecté, enfermé, ordonné ou noué conditionne directement la fiabilité des décisions prises par un système autonome. Ce travail met en lumière un angle mort des évaluations actuelles de l'IA multimodale, largement centrées sur des propriétés euclidiennes comme la distance, la direction, la taille ou la position relative, au détriment de la topologie, pourtant considérée en sciences cognitives comme une couche fondamentale de la compréhension spatiale humaine. Les scènes de MindTopo sont générées par des simulateurs contrôlés offrant une vérité terrain exacte et une difficulté ajustable, ce qui permet de mesurer précisément où et pourquoi les modèles échouent. En creusant cet écart entre perception et action, MindTopo ouvre une piste concrète pour renforcer les futurs systèmes destinés à la robotique et aux environnements dynamiques, là où une compréhension spatiale purement statique ne suffit plus.

Recherche❖Paper

1 source

41

353The Verge AI 

D'Addario reconnaît avoir utilisé de la musique générée par IA dans une vidéo promotionnelle

D'Addario, le fabricant américain de cordes et d'accessoires pour instruments de musique, a admis avoir utilisé l'intelligence artificielle Suno dans une vidéo promotionnelle publiée fin juillet. Pendant près de deux semaines, l'entreprise avait nié ces accusations malgré l'accumulation de preuves, invoquant tour à tour des exports vidéo de mauvaise qualité, du bruit numérique lié à des plugins comme Autotune, ou encore l'usage d'outils de mastering assistés par IA tels que LANDR et Logic. Elle a finalement modifié son message Instagram du 29 juillet, un démenti initial, pour y ajouter une longue mise à jour reconnaissant son erreur. Cet épisode illustre la difficulté croissante des marques à dissimuler l'usage de contenus générés par IA face à un public de plus en plus capable de les détecter, en particulier dans le milieu musical où guitaristes et ingénieurs du son repèrent facilement un son artificiel. Pour D'Addario, entreprise reconnue pour son savoir-faire artisanal, l'affaire écorne la confiance de ses clients. Elle rappelle aussi qu'un déni prolongé face à des faits vérifiables aggrave généralement une crise de réputation plutôt que de l'apaiser. Cette controverse s'inscrit dans une vague de scandales liés à l'usage caché de l'IA générative dans la musique et la publicité, des outils comme Suno permettant de produire en quelques secondes des morceaux presque indiscernables d'enregistrements réels. D'autres marques ont récemment été accusées de pratiques similaires sans les divulguer, nourrissant la méfiance d'une partie du public envers le contenu musical publié en ligne. L'affaire D'Addario pourrait inciter les entreprises du secteur à plus de transparence sur leur usage de l'IA à l'avenir.

Éthique⚡Actu

1 source

42

354Le Big Data 

Adieu le manuel d’utilisation : Ford lance un assistant IA qui sait tout sur votre voiture

Ford a lancé un assistant intelligent intégré à son application mobile, capable de répondre aux questions des propriétaires sur leurs véhicules Ford et Lincoln, comme le niveau de carburant ou la capacité de chargement, sans passer par le manuel papier. Mike Aragon, président des services intégrés chez Ford, explique que l'objectif est d'améliorer l'expérience des automobilistes dès maintenant, sans attendre l'achat d'un nouveau modèle. La fonctionnalité est disponible dans un premier temps sur smartphone et concerne près de 8 millions de propriétaires Ford et Lincoln aux Etats-Unis. Un modèle vocal directement intégré aux véhicules doit suivre l'année prochaine. L'application reste gratuite, mais Ford n'a pas précisé si l'assistant embarqué le sera également. Son arrivée en Europe est annoncée pour les prochains mois, sans date plus précise. L'intérêt de cet outil tient à sa connexion directe avec le véhicule, ce qui permet des réponses personnalisées plutôt que des informations génériques puisées dans un manuel générique. L'assistant peut par exemple calculer la capacité de remorquage réelle en fonction du chargement actuel, ou estimer l'autonomie restante selon la consommation constatée. Pour les utilisateurs, cela représente un gain de temps concret et une alternative crédible à une recherche Google classique pour ce type de questions techniques. Plus largement, cette évolution illustre comment les constructeurs cherchent à transformer leurs applications compagnons en véritables points d'entrée vers l'ensemble des fonctions du véhicule, renforçant la dépendance des conducteurs à l'écosystème logiciel de leur marque plutôt qu'à des outils tiers. Ford n'est pas pionnier sur ce terrain : Rivian et Mercedes développent déjà leurs propres assistants maison, tandis que d'autres constructeurs préfèrent s'appuyer sur des solutions existantes, à l'image de BMW qui travaille avec Alexa d'Amazon, ou de Renault et Volvo qui misent sur Gemini de Google. Cette diversité de stratégies reflète un arbitrage classique de l'industrie entre développement propriétaire et partenariat avec les géants de la tech. Ford affirme viser, à terme, un véritable écosystème embarqué plutôt qu'une simple déclinaison d'Apple CarPlay ou d'Android Auto, ce qui suggère des ambitions dépassant la seule assistance technique pour toucher à la navigation, au divertissement ou aux services connectés. La généralisation de ces assistants dans les véhicules pourrait, à terme, redessiner la manière dont les conducteurs interagissent avec leur voiture au quotidien, et accélérer la bascule des constructeurs traditionnels vers des logiques de logiciel embarqué proches de celles des géants technologiques.

Outils⚒Outil

1 source

47

355AI News 

Google teste AMIE pour des consultations médicales par vidéo

Google a testé son système d'intelligence artificielle médicale de recherche, AMIE (Video), en le faisant mener des consultations vidéo synchrones avec des patients simulés par des acteurs professionnels. Quinze acteurs formés ont incarné des pathologies réparties en cinq catégories : cardiopulmonaire, abdominale, ORL et tête-cou, neurologique ou psychiatrique, et musculo-squelettique. Un panel indépendant de 20 médecins généralistes expérimentés a évalué chaque consultation à l'aide de grilles cliniques établies, en appliquant des critères spécifiques à chaque scénario en plus d'une évaluation générale des compétences. L'étude comparait trois configurations : AMIE en vidéo, une version textuelle du même système, et dix médecins généralistes certifiés utilisant la même interface vidéo. Pour gérer une consultation en temps réel, AMIE repose sur une architecture à trois agents distincts fonctionnant en parallèle : un agent « talker » qui gère le dialogue oral avec le patient, un agent planificateur qui met à jour en arrière-plan le diagnostic différentiel et le plan de prise en charge, et un agent de perception qui analyse en continu les flux audio et vidéo pour repérer signes cliniques et signaux non verbaux. Les évaluateurs ont jugé qu'AMIE (Video) égalait les médecins généralistes sur la qualité de l'anamnèse, la précision diagnostique, la pertinence de la prise en charge et la qualité de communication, tout en égalant ou dépassant la version textuelle du système sur ces mêmes critères. Le système vidéo s'est même montré supérieur pour repérer des signes physiques et guider activement les patients à travers des manœuvres d'examen virtuel, aussi bien face aux médecins qu'à la version texte. Les acteurs-patients ont par ailleurs préféré l'interface vidéo synchrone au chat textuel, la jugeant plus simple d'usage et plus efficace pour exprimer leurs préoccupations de santé, et ont mieux noté l'empathie, la relation de confiance et le sentiment de sécurité ressentis avec AMIE en vidéo. Ces résultats suggèrent qu'une IA médicale pourrait, à terme, élargir l'accès à des consultations de premier recours dans des zones sous-dotées en médecins, tout en gérant la contrainte de latence propre au dialogue en temps réel, puisque des pauses trop longues pendant le raisonnement clinique nuisent à la fluidité de l'échange. Avant l'étude humaine, Google avait développé une suite d'évaluation automatisée s'appuyant sur une taxonomie de compétences en télémédecine issue de la littérature médicale, couvrant indices visuels, signaux auditifs et manœuvres d'examen physique, avec des tests à un seul échange puis des simulations de consultations audio à plusieurs tours. Ces évaluations automatiques ont confirmé que chaque agent améliorait des mesures cliniques comme l'anamnèse ou le raisonnement diagnostique. Google précise toutefois que ces résultats reposent sur des acteurs simulant des symptômes, et que des études menées avec de vrais patients souffrant de leurs propres conditions médicales seront nécessaires avant de tirer la moindre conclusion sur un usage clinique réel.

Recherche❖Paper

1 source

50

356Le Big Data 

Nvidia lance Nemotron 3.5 Lightning : Claude pourrait devenir beaucoup trop cher

Nvidia a présenté le 11 août 2026 Nemotron 3.5 Lightning, un modèle en poids ouverts de type mixture-of-experts à 30 milliards de paramètres dont seulement 3 milliards activés à chaque passage, doté d'un contexte d'un million de tokens et déployable sur un DGX Spark, une carte H100 ou une GeForce RTX 5090. L'entreprise revendique jusqu'à quatre fois plus de vitesse et 30% de temps en moins sur des tâches agentiques face à des modèles ouverts comparables, avec poids et recettes d'entraînement publiés sous licence OpenMDW-1.1 sur Hugging Face. L'annonce s'accompagne de NeMo Switchyard, une bibliothèque qui choisit automatiquement quel modèle doit traiter chaque étape d'un agent selon la difficulté, le coût ou la latence, réservant les modèles premium comme Claude Opus aux tâches les plus complexes. Testé avec LangChain sur 145 tâches agentiques multi-étapes, ce routage entre Lightning et Claude Opus 4.8 a réduit le coût de 74%, avec seulement 7% des appels envoyés au modèle frontier, pour environ six points de précision perdus. Artificial Analysis attribue par ailleurs à Lightning un score de 24 sur son Intelligence Index, équivalent à gpt-oss-120b obtenu avec environ quatre fois moins de paramètres, et mesure près de 670 tokens par seconde avec les poids finaux au format NVFP4. Cette annonce vise le coût d'exploitation des agents IA en entreprise, où les tâches répétitives (appels d'outils, validation de résultats, revue de code) finissent par exploser la facture lorsqu'elles sont envoyées à un modèle frontier comme Claude Opus. En confiant l'essentiel du volume à Lightning et en ne remontant vers un modèle premium que les cas réellement difficiles, Switchyard promet de diviser les coûts par plusieurs sans sacrifier la qualité globale, selon les chiffres avancés par Nvidia. La licence ouverte permet en plus un hébergement local, un argument qui compte pour les entreprises réticentes à envoyer leur propriété intellectuelle vers une API externe. Pour Anthropic et les autres fournisseurs de modèles premium, le risque est de voir leur usage réduit aux seules tâches complexes, pendant que Nvidia capte l'essentiel du volume avec du matériel et des modèles qu'il maîtrise de bout en bout. Cette sortie s'inscrit dans une stratégie à double face : fin juin 2026, Nvidia avait annoncé l'arrivée de Claude sur ses GPU Blackwell Ultra, consolidant sa position de fournisseur d'infrastructure incontournable pour Anthropic. Six semaines plus tard, l'entreprise propose aux mêmes clients un moyen de limiter leur recours à Claude en misant sur ses propres modèles Nemotron, dont Lightning est présenté comme le successeur de Nemotron 3 Nano 30B. Sur le terrain des modèles ouverts concurrents, Qwen3.6 35B et Muse Glimmer restent devant Lightning sur l'intelligence générale mesurée par Artificial Analysis, qui a publié ses propres résultats indépendants dès le lancement. La suite dépendra de l'adoption réelle de Switchyard par les équipes qui construisent des agents en production, et de la réponse des fournisseurs de modèles premium face à cette pression nouvelle sur les prix.

LLMs❧Opinion

1 source

55

357Next INpact 

Evo 2 : le ChatGPT de l’ADN a « un potentiel énorme » pour François Rousset (CNRS)

Des chercheurs de l'université Stanford, menés par Samuel H. King, ont publié jeudi 6 août dans la revue Science les résultats d'une expérience au cours de laquelle un modèle de langage génomique a généré les séquences complètes de 16 bactériophages viables, des virus qui infectent des bactéries sans danger pour l'humain. Ces génomes synthétiques, proches du bactériophage naturel ΦX174 qui s'attaque à la bactérie Escherichia coli, ont ensuite été fabriqués en laboratoire et se sont révélés fonctionnels. L'outil à l'origine de cette prouesse, baptisé Evo, avait été dévoilé en novembre 2024 par cette même équipe de bio-ingénierie, avant qu'une seconde version, Evo 2, ne soit présentée en mars dernier. Interrogé sur cette annonce, François Rousset, chercheur CNRS au Centre international de recherche en infectiologie, y voit une avancée potentiellement révolutionnaire pour son domaine. Cette percée illustre ce que peuvent produire des modèles de langage appliqués non plus au texte mais à l'ADN. Selon François Rousset, Evo 2 fonctionne un peu comme ChatGPT : là où un modèle de langage classique apprend à prédire le mot suivant à partir d'immenses corpus de textes, Evo 2 a appris, en s'entraînant sur de vastes bases de séquences génétiques, à prédire quelle base nucléotidique (A, T, G ou C) doit suivre une séquence donnée, en intégrant les contraintes biologiques qui régissent ces enchaînements. Pouvoir concevoir des génomes viraux fonctionnels de bout en bout ouvre des perspectives concrètes pour la recherche fondamentale, pour la phagothérapie contre les bactéries pathogènes résistantes aux antibiotiques, et plus largement pour l'ingénierie du vivant, en réduisant potentiellement des années de tâtonnements en laboratoire à de simples générations informatiques. Ces travaux s'inscrivent dans un rapprochement croissant entre intelligence artificielle et biologie de synthèse, un mouvement déjà porté par des outils comme AlphaFold de Google DeepMind pour la prédiction de structures de protéines. En choisissant de démontrer les capacités d'Evo 2 sur des bactériophages inoffensifs pour l'humain, l'équipe de Stanford adopte une approche prudente pour explorer le potentiel de la génération de génomes complets par intelligence artificielle, avant d'envisager des organismes plus complexes. Cette démonstration soulève aussi des questions de biosécurité, la capacité à concevoir informatiquement des génomes fonctionnels pouvant à terme s'étendre à d'autres micro-organismes. La communauté scientifique, dont fait partie François Rousset, suit de près ces développements, susceptibles de transformer la façon dont chercheurs et industriels conçoivent de nouveaux organismes ou outils biologiques dans les années à venir.

Recherche❖Paper

1 source

37

358AWS ML Blog 

Comment OneAdvanced a déployé plus de 50 agents IA sur AWS souverain britannique

L'éditeur britannique de logiciels d'entreprise OneAdvanced, qui compte plus de 10 000 clients dans des secteurs réglementés comme la santé et le droit, a déployé plus de 50 agents d'intelligence artificielle spécialisés sur une architecture cloud entièrement souveraine au Royaume-Uni, hébergée sur Amazon Web Services. La solution repose sur les modèles ouverts Llama 4 Maverick et Llama Guard 4, servis via vLLM sur des instances Amazon SageMaker AI de type p5.48xlarge, dans la région de Londres (eu-west-2). Faute de disponibilité de ces modèles via les services managés d'AWS au Royaume-Uni au moment du projet, OneAdvanced a choisi de les auto-héberger sur une infrastructure qu'elle contrôle entièrement. L'architecture combine un pipeline de génération augmentée par récupération (RAG) appuyé sur Amazon Aurora PostgreSQL-Compatible Edition avec l'extension pgvector, plus de 50 agents construits avec le kit Strands Agents SDK et tournant sur Amazon ECS, ainsi qu'une couche de configuration stockée dans Amazon DynamoDB. Les documents déposés sur Amazon S3 sont convertis en markdown, découpés puis vectorisés pour la recherche, tandis que Llama Guard 4 filtre les contenus potentiellement nuisibles avant que chaque requête n'atteigne le modèle principal. Cette approche répond à une exigence stricte de la clientèle d'OneAdvanced, en particulier dans le secteur public et les industries fortement réglementées, qui doit savoir précisément où résident ses données, qui y a accès, et s'assurer qu'elles restent soumises au cadre légal britannique. Selon Andrew Henderson, directeur technique de OneAdvanced, cette traçabilité conditionne la confiance et la conformité totale des clients traitant des dossiers médicaux ou juridiques sensibles. Ce choix architectural a permis à l'entreprise d'obtenir la certification ISO 42001 sur la gouvernance de l'intelligence artificielle, tout en conservant une maîtrise complète de l'infrastructure de service des modèles, un enjeu de plus en plus central pour les entreprises européennes soucieuses de ne pas dépendre de clouds ou de modèles hébergés hors de leur juridiction. Le projet a démarré par un prototypage rapide sur Amazon Bedrock, qui a permis en un sprint de deux semaines de livrer un agent conversationnel, un agent Bedrock interrogeant le droit statutaire britannique, une intégration avec Snowflake et une génération de graphiques. Mais pour répondre pleinement aux exigences de souveraineté, l'équipe a dû migrer vers un hébergement autonome des modèles, ce qui impliquait de gérer elle-même le déploiement, la mise à l'échelle, la modération de contenu, la récupération documentaire et l'orchestration des agents, tout en proposant un constructeur d'agents sans code destiné aux utilisateurs non techniques. Cette démarche illustre une tendance plus large chez les fournisseurs de logiciels d'entreprise à privilégier des modèles ouverts autohébergés lorsque les offres managées ne couvrent pas encore leurs exigences réglementaires locales.

Infrastructure⚡Actu

1 source

35

359AWS ML Blog 

Pay avec confiance : comment Solv Labs a bâti des paiements d'agents vérifiables et auditables sur Amazon Bedrock AgentCore

Solv Labs, une entreprise spécialisée dans les infrastructures de paiement pour agents IA, a développé avec ICME Labs un système de paiement autonome vérifiable construit sur Amazon Bedrock AgentCore payments, une fonctionnalité lancée par Amazon en mai 2026 en partenariat avec Coinbase et Stripe. Ce dispositif permet à des agents IA d'accéder instantanément à des contenus web, des API, des serveurs MCP ou d'autres agents, et de les payer automatiquement selon les mêmes contrôles que les développeurs utilisent déjà pour piloter leurs agents. Le système repose sur deux couches de gouvernance complémentaires: ORACLE, le moteur de politiques propriétaire de Solv Labs, qui autorise ou refuse chaque transaction avant son exécution, et ICME PreFlight, une couche de vérification de conformité qui étend les AWS Automated Reasoning Checks pour les rendre portables, respectueuses de la vie privée et vérifiables de façon indépendante. Trois composants encadrent ainsi chaque paiement: ORACLE pour la pré-autorisation, un service d'intégrité exécuté dans une enclave sécurisée AWS Nitro Enclave, et un moteur de risque qui fixe un prix individualisé à chaque transaction. L'ensemble du processus, de la pré-autorisation au règlement final on-chain via Coinbase, s'exécute en moins de quatre secondes, et chaque opération génère automatiquement une piste d'audit complète. Ce dispositif répond à une question devenue centrale pour les entreprises qui laissent des agents autonomes dépenser de l'argent en leur nom: il ne s'agit plus seulement de savoir si le paiement a fonctionné, mais de pouvoir prouver après coup qu'il était autorisé, correctement évalué au regard du risque encouru, et consigné d'une manière qui résiste à un contrôle externe. Jusqu'ici, les entreprises se heurtaient à un vide documentaire: une fois une transaction exécutée par un agent, rien ne reliait durablement cette action précise à la politique qui l'avait autorisée ni aux contraintes qu'elle devait respecter. Les rapports d'audit classiques, comme les certifications SOC 2, décrivent l'organisation autour du système, pas l'exécution de chaque décision individuelle. Sans ce lien transaction par transaction, impossible pour un opérateur de trancher un litige, de satisfaire un régulateur ou de distinguer une action normale d'un agent compromis. Le système développé par Solv Labs et ICME vise précisément à combler ce vide, sans ralentir les agents ni ajouter d'infrastructure extérieure à celle déjà utilisée. Ce projet s'inscrit dans une convergence technologique récente: en l'espace d'un seul trimestre sont apparus Amazon Bedrock AgentCore payments, les AWS Automated Reasoning Checks, l'usage des AWS Nitro Enclaves comme attestateurs transaction par transaction, et l'adoption large du standard de paiement x402 pour les agents. C'est cette combinaison qui a rendu possible, selon Solv Labs et ICME, le passage d'une gouvernance des paiements d'agents purement théorique à un choix d'implémentation concret. L'enjeu dépasse le seul cas d'usage: à mesure que les agents autonomes gagnent en autonomie financière dans des secteurs régulés, la capacité à produire une preuve vérifiable indépendamment de la parole de l'opérateur devient une condition d'adoption pour les banques, assureurs et autres institutions soumises à des exigences de conformité strictes.

Outils⚒Outil

1 source

39

360AWS ML Blog 

Cache hiérarchique KV pour LLM sur Amazon SageMaker HyperPod avec Curvine

Amazon Web Services a publié une architecture technique combinant Amazon SageMaker HyperPod et un système de fichiers distribué nommé Curvine pour résoudre un problème récurrent de l'inférence de grands modèles de langage : le cache KV (clés-valeurs) devient soit trop coûteux à faire tenir sur des GPU surdimensionnés, soit source de lenteurs quand les invites identiques sont recalculées à chaque requête. La solution repose sur une hiérarchie à trois niveaux : L0 correspond au cache natif de vLLM logé dans la mémoire GPU (HBM), L1 déporte les blocs évincés vers la mémoire CPU locale via LMCache, et L2, la nouveauté, utilise Curvine comme couche partagée entre nœuds sur du stockage NVMe. Sur un déploiement de test utilisant des instances ml.g6e.4xlarge (48 Go de mémoire par GPU), cette architecture a permis d'atteindre un taux de réussite du cache inter-pods allant jusqu'à 100 %, une amélioration du délai avant premier token (TTFT) jusqu'à 2,7 fois, et une latence de lecture inter-nœuds d'environ 56 millisecondes pour une invite d'environ 1 900 tokens. Le dispositif s'appuie sur deux fonctionnalités de HyperPod, le Managed Tiered KV Cache et l'Intelligent Routing, complétées par un correctif de l'opérateur d'inférence pour prendre en charge un cache L2 basé sur système de fichiers. L'enjeu est directement financier et opérationnel pour les entreprises qui déploient de nombreux modèles de fondation publics, comme Qwen, Llama ou DeepSeek, sur des points de terminaison dédiés à différentes lignes de métier, des pipelines de génération augmentée par récupération (RAG) ou des applications de dialogue multi-tours. Sans cette architecture, chaque réplique de vLLM maintient un cache isolé : router une requête vers une autre instance équivaut à repartir de zéro, ce qui dégrade l'expérience utilisateur et gonfle les coûts d'infrastructure. Avec le cache partagé, des charges de travail qui nécessitaient auparavant des instances P5 haut de gamme peuvent désormais tourner sur des instances G6e moins chères, réduisant le coût par point de terminaison, même si les économies réelles dépendent de la taille du modèle et du profil de trafic. Le problème vient de la mécanique même de l'inférence par attention paginée : vLLM conserve en mémoire les clés et valeurs déjà calculées pour éviter de les recalculer, et le préchargement de préfixe permet de réutiliser ce cache entre requêtes partageant un même début, comme une instruction système commune. Mais sur des GPU économiques, une fois les poids du modèle chargés, la mémoire restante pour le cache se réduit vite, en particulier avec des modèles plus volumineux ou une forte concurrence : un modèle de 32 milliards de paramètres occupe à lui seul environ 64 Go de poids, ne laissant presque plus de marge. Cette architecture s'inscrit dans l'effort plus large d'AWS pour optimiser l'infrastructure d'inférence face à la multiplication des déploiements de modèles ouverts, et pourrait inspirer des approches similaires chez d'autres fournisseurs cloud confrontés aux mêmes contraintes de coût et de latence.

Infrastructure⚡Actu

1 source