Actualités IA — page 62

9 298 articles au fil, du plus récent au plus ancien.

47

Illustration générée par IA

1221Ars Technica AI 

Des utilisateurs de Claude ont contourné les garde-fous sur la recherche liée aux armes biologiques

Anthropic a annoncé avoir déjoué cette année plusieurs tentatives de scientifiques cherchant à détourner Claude pour des recherches susceptibles de faciliter la mise au point d'armes biologiques. Dans un rapport consacré aux usages malveillants de ses modèles, l'entreprise détaille cinq cas concrets où des utilisateurs ont contourné les dispositifs de sécurité ou cherché à dissimuler la finalité réelle de leurs requêtes. Certains de ces cas impliquaient des personnes situées dans des pays auxquels Anthropic interdit l'accès à ses modèles, notamment la Russie, la Chine et l'Iran. La société affirme avoir identifié ces tentatives de contournement grâce à ses systèmes de surveillance internes et avoir bloqué les comptes concernés. Ces révélations illustrent une inquiétude grandissante dans le secteur de l'intelligence artificielle quant au risque que ces technologies représentent pour la sécurité publique, en particulier dans le domaine biologique. Des modèles capables d'assister la recherche scientifique légitime peuvent, entre de mauvaises mains, accélérer des étapes autrefois complexes de la conception d'agents pathogènes dangereux. Pour les régulateurs, les laboratoires d'IA et les gouvernements, l'épisode renforce l'urgence de mettre en place des garde-fous techniques et réglementaires robustes, alors que ces outils deviennent toujours plus accessibles et puissants. Anthropic affirme espérer que la publication de ces exemples précis ouvrira un débat plus large, au sein de l'industrie et avec les pouvoirs publics, sur les risques biologiques émergents liés à l'IA et sur les meilleures façons de les contrer. L'entreprise, qui a fait de la sécurité un argument central de son positionnement face à des concurrents comme OpenAI ou Google, cherche ainsi à se poser en acteur transparent sur ces enjeux sensibles, tout en alimentant la pression pour un encadrement international plus strict des usages détournés de l'IA générative.

Sécurité⚡Actu

1 source

46

Illustration générée par IA

1222Le Big Data 

IA souveraine et Supply Chain : pourquoi l’approche de NVIDIA et Palantir devient la référence industrielle

NVIDIA et Palantir ont annoncé le 10 septembre 2026 un partenariat destiné à intégrer l'intelligence artificielle générative directement au cœur des chaînes d'approvisionnement industrielles, sans faire transiter les données sensibles par un cloud public. Concrètement, la plateforme Foundry et l'outil AIP de Palantir sont couplés aux modèles ouverts Nemotron de NVIDIA, ainsi qu'aux briques cuOpt et NeMo, pour aider les planificateurs logistiques à repérer les risques émergents et à réagir plus vite. NVIDIA a déjà déployé ce système en interne pour piloter sa propre production, un cas d'usage particulièrement parlant puisqu'il porte sur la fabrication des racks de serveurs Vera Rubin, chacun composé de 1,3 million de pièces. L'ensemble tourne dans des datacenters privés, sous le contrôle direct de l'entreprise, plutôt que sur une infrastructure tierce. L'enjeu dépasse la simple prouesse technique : il s'agit de résoudre un dilemme qui bloquait jusqu'ici de nombreux comités de direction, celui de choisir entre l'optimisation des flux logistiques par l'IA et la protection des secrets industriels. Envoyer ses nomenclatures et ses listes de fournisseurs vers un modèle de langage hébergé à distance expose l'entreprise à des fuites pouvant ruiner un avantage compétitif en quelques minutes, un risque jugé inacceptable dans des secteurs comme la défense, l'aéronautique ou la pharmacie. En traitant les données dans un périmètre fermé, les entreprises peuvent bénéficier des capacités prédictives de l'IA, par exemple anticiper une pénurie de composants avant qu'elle ne bloque une chaîne de montage, tout en conservant la maîtrise totale de leurs fichiers. Cette approche répond aussi à un durcissement réglementaire, à l'image des recommandations de l'ANSSI en France sur les risques d'aspiration de données confidentielles par des plateformes d'IA grand public. Ce rapprochement s'inscrit dans un contexte de tensions géopolitiques et de ruptures d'approvisionnement récurrentes, qui ont rendu la visibilité sur les stocks et les fournisseurs critiques pour de nombreux industriels. Sur le plan technique, le dispositif combine deux briques complémentaires : Foundry numérise chaque usine, chaque stock et chaque camion pour construire une représentation logique de l'entreprise, tandis que les puces NVIDIA font tourner les modèles Nemotron sur ces données structurées afin de suggérer des réallocations de pièces. Les microservices cuOpt permettent en outre d'évaluer des millions de scénarios de livraison en temps record dès qu'un retard survient sur un composant. Ce déploiement s'annonce comme une référence potentielle pour d'autres géants industriels cherchant à concilier performance opérationnelle et souveraineté numérique.

Business⚡Actu

Aussi surAI News

40

Illustration générée par IA

1223Frandroid 

Installer une IA sur son PC de travail sans autorisation : ce que vous risquez vraiment

Installer un agent IA comme ChatGPT Work ou Claude Cowork sur un ordinateur professionnel sans en informer son entreprise est techniquement à la portée de n'importe quel salarié, souligne un article de Frandroid consacré à cette pratique de plus en plus courante. Le texte part d'un cas concret : un utilisateur demande s'il peut installer ce type d'agent sur son PC de travail, et la réponse technique est oui, dans la majorité des configurations d'entreprise. Mais l'article insiste sur le fait que la difficulté n'est pas informatique, elle est légale et contractuelle, et qu'elle porte précisément sur ce que ce logiciel va lire, transmettre et exécuter en arrière-plan une fois installé sur la machine. Cette distinction change la nature du risque pour le salarié comme pour l'employeur. Un agent IA installé localement peut accéder à des documents internes, des identifiants, des messageries ou des systèmes sensibles, et les transmettre à des serveurs tiers sans que la direction informatique en ait connaissance. Pour l'entreprise, cela ouvre une brèche de sécurité et de conformité, potentiellement en violation du RGPD ou de clauses de confidentialité contractuelles. Pour le salarié, l'absence d'autorisation peut constituer un motif disciplinaire, indépendamment de la qualité du logiciel utilisé, puisque l'enjeu se situe sur le terrain du droit du travail et non sur celui de la performance de l'outil. Cet épisode illustre une tension plus large entre l'adoption rapide des agents IA par les salariés, séduits par les gains de productivité, et la lenteur des politiques internes des entreprises à encadrer ces usages. Des outils comme ChatGPT Work d'OpenAI ou Claude Cowork d'Anthropic se positionnent justement comme des versions professionnelles censées répondre à ces enjeux de sécurité et de gouvernance des données. Le sujet devrait pousser davantage d'organisations à formaliser des chartes d'usage de l'IA, sous peine de voir se multiplier des installations non déclarées échappant à tout contrôle informatique.

Société❧Opinion

1 source

44

Illustration générée par IA

1224Le Big Data 

Virus, surveillance, missiles : Anthropic révèle comment des gens malveillants utilisent Claude

Anthropic a publié le 10 septembre 2026 un rapport de 154 pages détaillant les tentatives d'utilisation malveillante de son modèle Claude. Le document recense plusieurs catégories d'acteurs problématiques identifiés par l'entreprise : des criminels, des groupes soutenus par des États, des fournisseurs de logiciels espions, des propagandistes et des scientifiques. Cinq cas concernent des chercheurs en biologie ayant contourné les restrictions géographiques imposées à Claude, dont un scientifique qui aurait utilisé l'outil pour préparer une demande de financement sur le chikungunya, un virus transmis par les moustiques, dans le cadre de travaux prévus au sein d'un institut de recherche militaire. Anthropic évoque aussi des utilisateurs ayant exploité Claude pour développer des logiciels liés à des armes conventionnelles : armes à feu, missiles, drones armés, bombes et munitions. S'y ajoutent des opérations de cyberespionnage attribuées à des acteurs russes, des activités de surveillance visant des dissidents ainsi qu'un programme basé en Chine ciblant des Ouïghours en Syrie, et des campagnes de propagande liées à la Russie, la Malaisie, l'Iran et le Bangladesh. L'entreprise affirme avoir fermé tous les comptes concernés mais ne précise ni les institutions ni les pays impliqués dans la majorité des cas. Ce rapport illustre à quel point les grands modèles de langage sont déjà intégrés à des activités sensibles, bien au-delà des usages grand public habituels. Le cas du chikungunya rappelle la nature double des connaissances biologiques : les mêmes informations qui permettent de développer un vaccin peuvent, détournées, servir à la conception d'un agent pathogène dangereux, rendant la frontière entre recherche légitime et risque biologique particulièrement difficile à tracer pour une IA. Pour l'industrie, ces révélations posent la question de la responsabilité des fournisseurs de modèles : jusqu'où doivent-ils surveiller, documenter et divulguer les usages détournés de leurs outils, sans pour autant nuire à la recherche scientifique légitime ni à la confidentialité des utilisateurs. Pour les gouvernements et les autorités de sécurité, l'implication d'acteurs étatiques russes et chinois dans des opérations d'espionnage et de surveillance via une IA commerciale confirme que ces outils sont désormais des instruments géopolitiques à part entière. Ce rapport s'inscrit dans une volonté croissante des laboratoires d'IA de démontrer leur capacité à détecter et neutraliser les abus, à mesure que leurs modèles gagnent en puissance et en autonomie. Anthropic avait déjà publié plus tôt en 2026 des analyses sur des cyberattaques orchestrées avec l'aide de l'IA. L'entreprise reconnaît elle-même que les cas documentés ne représentent probablement qu'une fraction du problème, les abus les plus graves restant souvent invisibles ou découverts uniquement lors d'enquêtes externes. Ce constat alimente le débat sur la transparence exigée des géants de l'IA, la nécessité de mécanismes de contrôle indépendants, et les futures régulations encadrant l'usage de ces technologies par des États ou des groupes malveillants.

Sécurité⚡Actu

Aussi surSciences et Avenir Tech

46

Illustration générée par IA

1225The Decoder 

OpenAI lance une nouvelle API Agents, l'infrastructure derrière Codex et ChatGPT

OpenAI a lancé en version bêta publique une nouvelle API baptisée Agents API, qui donne aux développeurs accès à l'infrastructure utilisée en interne pour faire fonctionner Codex et ChatGPT. Cette API permet de construire des agents cloud capables de tourner de manière autonome pendant plusieurs heures, d'exécuter du code et de déléguer des tâches à des sous-agents. OpenAI ne facture aucun frais supplémentaire au-delà de la consommation de tokens habituelle. Des partenaires comme Cloudflare, Vercel et Oracle proposent en complément des environnements sandbox pour héberger et exécuter ces agents dans des conditions sécurisées. Cette ouverture change la donne pour les développeurs qui voulaient jusqu'ici construire leurs propres systèmes d'agents autonomes sans disposer de l'infrastructure lourde nécessaire pour les faire tourner sur de longues durées. En donnant accès aux mêmes briques techniques que celles derrière Codex, l'assistant de programmation d'OpenAI, et ChatGPT, l'entreprise abaisse la barrière technique pour créer des applications capables d'exécuter des tâches complexes de bout en bout, comme du développement logiciel, de l'automatisation de workflows ou de la recherche approfondie, sans supervision humaine constante. L'absence de coûts additionnels au-delà des tokens rend ce type d'architecture plus accessible financièrement pour les startups et équipes qui expérimentent avec des agents autonomes. Cette annonce s'inscrit dans la course plus large entre acteurs de l'IA pour dominer l'écosystème des agents autonomes, où Google, Anthropic et d'autres proposent également leurs propres frameworks et infrastructures. Le partenariat avec Cloudflare, Vercel et Oracle pour les environnements sandbox reflète une tendance de fond : l'exécution sécurisée de code généré par des agents devient un enjeu central, nécessitant des environnements isolés capables de gérer les risques liés à l'autonomie prolongée des systèmes d'IA. Reste à voir comment les développeurs s'empareront de cette infrastructure et quels usages concrets, au-delà de la programmation automatisée, émergeront dans les mois à venir.

Outils⚒Outil

1 source

46

Illustration générée par IA

1226MarkTechPost 

Cohere lance North Small Translate, un modèle de traduction MoE de 218 milliards de paramètres, score de 83,6 sur WMT26 en 50 langues

Cohere a lancé North Small Translate, un nouveau modèle de traduction en poids ouverts développé avec Cohere Labs et l'entreprise RWS, dont les linguistes de Language Weaver ont contribué à affiner la qualité de sortie. Il s'agit d'un modèle Mixture-of-Experts épars comptant 218 milliards de paramètres au total, dont seulement 25 milliards actifs par requête, couvrant 50 langues, de l'albanais au vietnamien. Sur l'évaluation interne WMT26 de Cohere, il obtient un score moyen de 83,6 sur l'ensemble des langues, un score que l'entreprise revendique supérieur à DeepL, Google Translate, ainsi qu'à des modèles ouverts concurrents comme GLM 5.2 et Mistral Large 3. Une variante dite "Agentic", qui effectue plusieurs passes pour détecter et corriger ses propres erreurs, atteint même 84,36. Le modèle repose sur une architecture décodeur uniquement avec 128 experts dont 8 activés par token, une fenêtre de contexte de 16 000 tokens en entrée et en sortie, et un entraînement post-hoc spécifiquement orienté vers la qualité de traduction. Il est accessible gratuitement via l'API de Cohere jusqu'à certaines limites de débit, auto-hébergeable pour un usage non commercial, ou disponible sous licence commerciale. Cet événement compte pour l'industrie car il ramène l'attention sur la traduction automatique, un cas d'usage historique du deep learning, à un moment où la plupart des laboratoires concentrent leurs efforts sur des modèles généralistes multitâches. Pour les entreprises internationales, la promesse est double: une meilleure qualité, en particulier sur les documents longs où North Small Translate obtient un score de 48,9 contre 21,3 pour Google Translate et 19,4 pour Gemma 4 31B sur la traduction de chapitres de livres entiers, et un coût nettement réduit, avec 0,000676 dollar par tâche contre 0,038928 dollar pour Gemini 3.1 Pro Preview, soit environ 58 fois moins cher. Cohere présente aussi cette sortie sous l'angle de la souveraineté numérique, arguant que les organisations incapables de communiquer efficacement à l'échelle mondiale ne peuvent pas rester autonomes, un argument qui vise particulièrement les gouvernements et grandes entreprises soucieux de ne pas dépendre d'outils américains ou chinois génériques. Ce lancement s'inscrit dans une filiation historique directe: c'est en 2017 que des chercheurs de Google avaient introduit l'architecture Transformer dans leur article fondateur "Attention Is All You Need", justement à partir d'expériences de traduction anglais-allemand et anglais-français sur les jeux de données WMT 2014. Neuf ans plus tard, Cohere revient donc au problème d'origine avec un modèle dédié. North Small Translate s'inscrit dans la famille "North" de Cohere et fait suite à Tiny Aya et Command A Translate dans sa lignée multilingue. Il convient toutefois de noter que les chiffres de performance annoncés proviennent des propres tests de Cohere, évalués par le modèle GPT-5.6-Sol comme juge, et devront être confirmés par des résultats WMT26 indépendants avant d'être considérés comme définitifs. Les prochains mois diront si des laboratoires concurrents comme DeepL, Google ou les acteurs open source chinois comme Qwen et GLM répliquent ces performances sur des bancs d'essai neutres.

LLMs❧Opinion

1 source

49

Illustration générée par IA

1227Next INpact 

Apple s’attaque aux images truquées avec Reference Image et SynthID

Apple a officialisé le 9 septembre 2026, lors de son keynote de rentrée, une nouvelle fonction baptisée Reference Image, conçue pour authentifier les photos prises avec un iPhone et détecter les retouches ou manipulations, y compris celles réalisées par IA. Elle équipe les iPhone 18 Pro et Pro Max, qui embarquent un capteur supplémentaire placé à côté du capteur photo principal et chargé de signer les données au niveau du pixel. Lorsqu'une photo est prise dans ce mode dédié, l'image brute et ses métadonnées signées sont envoyées vers Private Cloud Compute, l'infrastructure serveur sécurisée d'Apple, qui génère une image de référence dite « inaltérable ». Cette référence reste consultable dans l'app Photos et peut être comparée à toute image reçue pour repérer un ajout ou une suppression d'élément. Apple a par ailleurs annoncé son soutien à SynthID, l'outil de filigrane développé par Google DeepMind pour identifier les contenus générés par IA, dont le support arrivera dans une mise à jour ultérieure cette année. Cette double initiative répond à un problème devenu central avec la généralisation des outils de génération et de retouche par IA : distinguer une photo authentique d'une image truquée. Pour les photojournalistes, les agences de presse et les photographes professionnels, disposer d'une preuve technique d'authenticité pourrait devenir un argument de crédibilité déterminant, à l'heure où les fausses images circulent massivement sur les réseaux sociaux. Pour le grand public, cela offre un mécanisme de vérification accessible, intégré nativement à l'écosystème Apple, sans dépendre d'outils tiers. En s'alignant sur SynthID plutôt qu'en imposant un standard propriétaire isolé, Apple choisit aussi l'interopérabilité avec un système déjà largement adopté par l'industrie. SynthID, développé par Google DeepMind, est déjà utilisé par Google dans Gemini et ses modèles de génération d'images et de vidéo, ainsi que par OpenAI pour les contenus produits par ChatGPT, Codex et son API. Il s'inscrit aux côtés du standard formel C2PA dans un mouvement plus large de l'industrie technologique visant à tracer l'origine des contenus générés par IA. La fonction Reference Image reste toutefois limitée : elle nécessite l'activation préalable d'un mode spécifique dans l'app Appareil photo, exclut les captures d'écran puisqu'elle dépend du capteur physique, et n'est disponible ni en Chine pour des raisons réglementaires, ni dans l'Union européenne, sans qu'Apple en précise la raison. Les utilisateurs européens pourront néanmoins consulter des images de référence sous iOS/iPadOS 27 et macOS 27, et Apple ouvrira une API permettant aux développeurs d'intégrer ce système de vérification dans leurs propres applications.

Outils⚒Outil

1 source

44

Illustration générée par IA

1228MarkTechPost 

Sakana AI lance Fugu Max et Fugu Ultra v2 pour une orchestration multi-agents moins chère et plus puissante

Sakana AI a dévoilé Fugu Max et Fugu Ultra v2, deux nouveaux modèles de sa famille Fugu, disponibles dès aujourd'hui via son API compatible OpenAI, sans poids ouverts et sans déploiement prévu dans l'Union européenne. Fugu n'est pas un modèle fondationnel classique mais un orchestrateur appris qui répartit les tâches entre plusieurs modèles selon leur coût et leur capacité. Fugu Max, facturé 2 dollars par million de tokens en entrée et 6 dollars en sortie, affiche un tarif de sortie inférieur de 40 à 60 % à celui de Sonnet 5, GPT 5.6 Terra et Kimi K3, tout en obtenant le meilleur score global sur six benchmarks, dont Terminal Bench 2.1, GPQA Diamond et AutomationBench, et en élargissant la frontière coût-performance sur sept des dix tests évalués. Fugu Ultra v2, lui, vise le raisonnement complexe et le développement logiciel autonome : il atteint 48,3 points sur Chartography, contre 27,3 pour Opus 5 et 29,5 pour Fable 5, et 74,3 sur DeepSWE, devançant des modèles facturés trois à cinq fois plus cher au token, sans même inclure Fable 5, Fable 5.1 ou GPT-6-Astra dans son pool de modèles. Son entraînement s'arrête au 28 août 2026. Ce lancement suit un calendrier serré : bêta en avril, disponibilité générale en juin, ajout de Fugu-Cyber et d'une interface Claude Code en juillet. Cette approche répond à un problème concret pour les entreprises qui déploient des agents IA à grande échelle : envoyer une simple recherche de données à un modèle massif de plusieurs milliers de milliards de paramètres gaspille des ressources. En faisant arbitrer automatiquement entre coût et capacité, Sakana promet des performances proches des modèles de pointe pour deux à six fois moins cher. L'argument stratégique dépasse la simple économie : en orchestrant un large éventail de modèles, dont la famille Nemotron de NVIDIA obtenue via un partenariat, Sakana affirme réduire la dépendance à un seul fournisseur propriétaire, et donc l'exposition aux hausses de prix, aux révocations d'accès API ou aux coupures de service soudaines, un risque de plus en plus présent pour les équipes qui construisent des produits sur des API tierces. Techniquement, l'orchestration de Fugu s'appuie sur deux travaux de recherche présentés à ICLR 2026 : TRINITY, un coordinateur léger obtenu par algorithme évolutionnaire qui répartit les rôles de Penseur, Travailleur et Vérificateur entre les tours de dialogue, et Conductor, entraîné par apprentissage par renforcement pour découvrir des stratégies de coordination en langage naturel. L'entraînement combine ainsi fine-tuning à grande échelle, algorithmes évolutionnaires et renforcement. Le benchmark SWEFish, utilisé pour vanter les performances des deux modèles, reste toutefois un test interne conçu par Sakana elle-même, à considérer comme un indicateur du fournisseur plutôt qu'une mesure indépendante.

LLMs⚡Actu

1 source

44

Illustration générée par IA

1229Le Big Data 

« L’IA pourrait provoquer l’extinction de l’humanité d’ici 2030 » : ces chercheurs d’Anthropic alertent

Jacob Coxon, chercheur ayant travaillé pendant trois ans sur le pretraining chez OpenAI puis chez Anthropic, a annoncé le 9 septembre 2026 sa démission de ce dernier laboratoire, invoquant l'incapacité des deux entreprises à gérer sérieusement les risques posés par l'intelligence artificielle. Dans plusieurs messages publiés sur X, il affirme que les deux sociétés foncent tout droit vers des systèmes capables de s'améliorer eux-mêmes, sans disposer de moyens suffisants pour contrôler leur comportement, et évoque des craintes privées, chez certains spécialistes, d'une extinction de l'humanité avant 2030. Ces propos ont été publiquement confirmés par Evan Hubinger, chercheur en alignement toujours employé par Anthropic, qui estime à plus de 10 % la probabilité d'une catastrophe liée à l'IA dans la prochaine décennie, tout en jugeant qu'Anthropic fait de son mieux sans disposer pour autant d'un plan permettant de résoudre le problème de l'alignement des futures superintelligences. Samuel Marks, également chercheur chez Anthropic, a abondé dans le même sens, précisant que les dirigeants les plus haut placés du secteur comptent souvent parmi les plus inquiets. Ces déclarations interviennent après plusieurs incidents récents impliquant des systèmes d'OpenAI, d'Anthropic et de Meta, notamment une affaire liée à Hugging Face pour laquelle OpenAI a reconnu avoir sous-estimé certains signaux d'alerte. Ce témoignage a une portée particulière car il émane de l'intérieur même des laboratoires, et non de critiques extérieures au secteur, ce qui expose l'écart entre les inquiétudes exprimées en privé par des chercheurs de haut niveau et la communication publique plutôt rassurante des dirigeants d'Anthropic et d'OpenAI. Il relance le débat sur la capacité de l'industrie à s'autoréguler, alors que la concurrence entre laboratoires pousse au déploiement rapide de modèles toujours plus autonomes, parfois au détriment de la prudence. La question dépasse désormais le cercle des chercheurs : le sénateur américain Bernie Sanders a repris les déclarations de Coxon et annoncé vouloir déposer un projet de loi visant à interdire le développement de superintelligences et à suspendre certains travaux jugés trop risqués, ce qui pourrait ouvrir la voie à un encadrement légal plus strict de l'IA aux Etats-Unis. Pour les utilisateurs comme pour les investisseurs, ces prises de parole internes fragilisent la confiance accordée aux engagements de sécurité affichés par les grands laboratoires. Ces alertes s'inscrivent dans un débat plus large sur le problème de l'alignement, c'est-à-dire la difficulté à garantir qu'un système d'IA nettement plus capable que l'humain reste compatible avec les intentions humaines, un défi qu'Anthropic elle-même reconnaît, par la voix de Hubinger, ne pas avoir résolu. La rivalité entre OpenAI, Anthropic et Meta pour développer les modèles les plus puissants alimente une course technologique où la vitesse de déploiement entre régulièrement en tension avec les impératifs de sécurité, une dynamique déjà pointée du doigt lors des précédents incidents évoqués par Coxon. Face à ces critiques, Anthropic défend sa stratégie et affirme prendre les risques au sérieux, sans pour autant reprendre à son compte les prévisions les plus alarmistes de son ancien chercheur. La suite dépendra désormais de la réaction des régulateurs, à commencer par l'initiative annoncée par Bernie Sanders, ainsi que de la capacité des laboratoires à démontrer, au-delà des discours, des progrès concrets sur l'alignement avant l'arrivée de systèmes encore plus autonomes.

Sécurité⚡Actu

1 source

45

Illustration générée par IA

1230MarkTechPost 

Google Research dévoile ToolGrad, une méthode "answer-first" qui atteint 99,8% de réussite pour générer des données d'usage d'outils

Google Research, en collaboration avec l'Université de Tokyo, RIKEN AIP et l'Université de Tohoku, a publié ToolGrad, un framework qui génère des données d'entraînement pour l'usage d'outils par les LLM en inversant le pipeline habituel : au lieu de partir d'une requête utilisateur pour chercher ensuite une chaîne d'appels d'API valide, ToolGrad construit d'abord une chaîne d'exécution vérifiée, puis rédige la requête correspondante. Le système fonctionne par une boucle de quatre modules (proposition d'API, exécution parallèle, sélection du meilleur appel, réécriture de la requête et de la réponse), répétée par défaut sur 10 itérations et 50 API échantillonnées. Testé sur la base ToolBench, qui compte plus de 16 000 API réelles, ToolGrad atteint un taux de réussite de 99,8 %, contre 63,8 % pour l'approche classique par recherche en profondeur (DFS) utilisée par ToolBench et ToolACE, tout en produisant des chaînes plus longues (3,4 appels par échantillon contre 2,1) avec moins d'étapes de recherche (20 contre 34,3). À partir de ce système, l'équipe a généré un jeu de données de 500 exemples, ToolGrad-500, avec Gemini 2.5 Flash-Lite, puis affiné des modèles Gemma-3 de 1, 4 et 12 milliards de paramètres. Le code est publié sous licence Apache-2.0, avec modèles et données disponibles sur Hugging Face et un package sur PyPI. Ce gain d'efficacité change la donne pour l'entraînement des agents capables d'utiliser des outils, une capacité clé pour les assistants IA qui doivent enchaîner des appels API réels plutôt que de simples réponses textuelles. Le modèle ToolGrad-12B obtient un score de 83,1 sur le Berkeley Function Calling Leaderboard, un test qui utilise des outils différents de ceux vus à l'entraînement. Ce résultat le place au niveau de Gemini 2.5 Pro (83,2) et devant Claude 4.5 Opus (82,8) et GPT-5 (74,4), et il dépasse même Gemini 2.5 Flash-Lite, le modèle qui a pourtant servi à générer ses données d'entraînement. Pour l'industrie, cela signifie qu'il devient possible d'obtenir des performances comparables à celles de modèles propriétaires massifs avec des modèles bien plus petits et open source, à condition de disposer de données de meilleure qualité plutôt que de plus de volume, ce qui réduit les coûts de calcul et d'infrastructure nécessaires pour déployer des agents fiables. Cette avancée s'inscrit dans un problème connu du secteur : produire des jeux de données d'usage d'outils de qualité est coûteux et lent, car les pipelines existants comme ToolBench ou ToolACE reposent sur une exploration par IA qui échoue souvent, gaspillant du calcul sur des chemins sans issue avant même d'obtenir un échantillon exploitable. En garantissant d'abord une chaîne d'exécution réelle et fonctionnelle avant de générer la requête associée, ToolGrad élimine une grande partie de ce gaspillage. Les scripts de reproduction, testés sur une seule carte NVIDIA A100 40 Go via une image Docker vLLM, rendent la méthode accessible à des équipes de recherche disposant de ressources limitées. La compétition entre spécialistes open source de l'usage d'outils, comme ToolACE ou Hammer-2.1-7B, et les grands modèles propriétaires de Google, Anthropic et OpenAI devrait s'intensifier à mesure que ces techniques de génération de données plus efficaces se diffusent, avec pour enjeu la capacité à équiper des modèles légers, donc moins coûteux à faire tourner, de compétences agentiques jusqu'ici réservées aux modèles les plus puissants.

Recherche❖Paper

1 source

40

Illustration générée par IA

1231Le Big Data 

Cette mère de famille teste Meta AI…mais découvre que l’IA connaît des détails troublants sur ses filles

Une mère de famille américaine originaire de l'Utah, Kalie Robins, a découvert que Meta AI pouvait reconstituer des informations privées et détaillées sur ses filles à partir de plusieurs années de publications sur Instagram et Facebook. Tout a commencé lorsqu'elle a partagé une vidéo anodine montrant l'une de ses filles dans une voiture, avec une autre enfant visible à l'arrière-plan. Quelques jours plus tard, l'assistant lui a spontanément proposé la question « Qui est l'enfant passager ? ». Intriguée, Robins a poussé l'expérience plus loin et a découvert que l'IA avait bâti ce qu'elle décrit comme « tout un portfolio » numérique sur ses deux filles, comprenant leurs âges, leurs activités préférées, l'école qu'elles fréquentent, leurs livres favoris, certaines habitudes familiales, et même le poids de naissance de l'une d'elles. Ces données provenaient notamment d'anciennes photos publiées par la grand-mère des enfants au fil des années. Meta AI serait aussi allée jusqu'à estimer, en plusieurs paragraphes, une zone géographique probable du domicile familial à partir d'anciens contenus publics, alors que les comptes de Robins ne comptent que quelques centaines d'abonnés. Cette découverte relance le débat sur les limites des assistants d'intelligence artificielle connectés aux réseaux sociaux, en particulier lorsqu'ils touchent des mineurs. Elle illustre comment des années de souvenirs familiaux, accumulés progressivement et sans intention de constituer une base de données, peuvent être agrégées automatiquement pour dresser un profil détaillé d'un enfant en quelques minutes seulement. Pour les familles, l'enjeu dépasse la simple confidentialité : il s'agit du risque de profilage, de géolocalisation indirecte et d'exposition d'enfants qui n'ont jamais consenti eux-mêmes à la diffusion de ces informations. L'épisode pousse aussi à s'interroger sur la responsabilité des plateformes dans la conception de fonctionnalités d'IA générative capables de croiser silencieusement des contenus dispersés sur plusieurs comptes et plusieurs années, bien au-delà de l'usage que les utilisateurs imaginaient au moment de publier chaque photo. Face à ces révélations, Meta a reconnu un dysfonctionnement, affirmant que son IA n'aurait « jamais dû poser ce genre de questions » et assurant avoir corrigé la fonctionnalité, tout en maintenant que l'outil n'utilise que des informations accessibles à des utilisateurs autorisés. Cette explication n'a toutefois pas rassuré Robins, qui juge la quantité d'informations rassemblées disproportionnée par rapport à la faible audience de ses comptes. Depuis, elle a demandé à ses proches de supprimer certaines photos publiées depuis des années, une démarche qui a provoqué une forte émotion dans son entourage, certains membres de la famille ayant pleuré en effaçant ces souvenirs numériques. Robins souhaite désormais sensibiliser d'autres familles aux traces laissées en ligne sur plusieurs générations, alors que la multiplication d'assistants IA capables d'analyser en profondeur les réseaux sociaux relance plus largement la question de la protection des données des mineurs face à des systèmes toujours plus performants pour recouper des informations éparpillées.

Éthique⚡Actu

1 source

47

Illustration générée par IA

1232Le Big Data 

GPT-Live-1 arrive dans l’API : l’IA vous écoute et vous parle en même temps

OpenAI a ouvert le 10 septembre 2026 l'accès à GPT-Live-1 via son API, un modèle vocal conçu pour fonctionner en full duplex : il écoute en continu pendant qu'il parle et décide lui-même s'il doit répondre, patienter ou laisser l'utilisateur poursuivre, sans attendre la fin formelle d'un tour de parole. Les développeurs peuvent façonner le ton et le style de l'agent via une simple invite système, et le modèle peut déléguer les tâches de raisonnement complexe à d'autres modèles comme GPT-6 Astra ou Luna. Sur le benchmark Full Duplex Bench v1, GPT-Live-1 répond en 0,798 seconde contre 1,41 seconde pour GPT-Realtime-2.1, un gain de 30 points, et atteint 80,1 % sur un test d'interactivité mesurant la gestion des interruptions et des conversations parallèles. OpenAI facture cette couche vocale 0,05 dollar par minute, hors coût du modèle de raisonnement backend et des outils additionnels. L'entreprise cite des clients concrets : Speak, plateforme d'apprentissage des langues dont l'agent laisserait davantage de temps aux apprenants avant de répondre, ce qui aurait fait chuter les interruptions de près de 80 % par rapport aux anciens systèmes séquentiels, et Yelp, qui utilise le modèle pour gérer les réservations téléphoniques malgré le bruit ambiant. Un autre client dit avoir réduit sa base de code de 80 %, soit environ 23 000 lignes supprimées de son ancienne architecture en cascade. Ce changement dépasse la simple amélioration du confort d'écoute. En supprimant le rythme artificiel qui trahissait historiquement les assistants vocaux, silences gênants ou réponses qui coupent la parole, GPT-Live-1 vise à rendre les agents téléphoniques utilisables en production pour des usages sensibles comme le service client, la réservation ou l'éducation. Pour les entreprises, l'enjeu ne se limite pas à la fluidité perçue : il touche aussi le coût par minute, la complexité d'orchestration entre plusieurs modèles et la confiance accordée à un agent capable de gérer seul un dialogue chaotique, avec bruits de fond et hésitations. La mesure indépendante réalisée par Agora nuance toutefois ce tableau : le modèle réagirait plus lentement lorsque l'utilisateur coupe volontairement la parole, un compromis assumé pour éviter qu'un simple oui ou un bruit ambiant ne déclenche une réponse intempestive. Cette sortie s'inscrit dans une tendance de fond de l'industrie vocale, qui cherchait depuis plusieurs années à s'affranchir des architectures classiques empilant transcription, raisonnement puis synthèse vocale, chaque étape ajoutant de la latence et des risques de désynchronisation. En regroupant écoute et parole dans une seule couche temps réel tout en gardant la possibilité de déléguer le raisonnement à des modèles tiers, OpenAI cherche à concurrencer les spécialistes de la voix temps réel comme Agora sur leur propre terrain, tout en ancrant les développeurs dans son écosystème de modèles, dont GPT-6 Astra et Luna. La généralisation de ces agents dans les centres d'appels et les services clients dépendra désormais autant de la qualité perçue de la conversation que du contrôle des coûts et de la fiabilité en conditions réelles, bruyantes et imprévisibles.

LLMs❧Opinion

1 source

36

Illustration générée par IA

1233Apple Machine Learning 

Évaluer la qualité des légendes vidéo par questions à choix multiples

Les chercheurs à l'origine des travaux intitulés « Putting Captions to the Test » s'attaquent à un problème méthodologique de longue date dans l'évaluation des modèles visuels de langage (VLLM) : la mesure de la qualité des légendes vidéo générées automatiquement. Jusqu'à présent, les métriques dominantes comparent le texte produit par un modèle à une légende de référence rédigée par des humains, en cherchant une correspondance lexicale directe. Or une même vidéo admet de nombreuses descriptions valides, un phénomène que les auteurs qualifient de nature "one-to-many" de la description vidéo. Une légende peut donc être exacte, détaillée et pertinente, tout en étant pénalisée simplement parce qu'elle emploie d'autres mots ou met l'accent sur un élément visuel différent de celui choisi dans la référence. Les auteurs proposent de repenser cette évaluation en la fondant sur la fidélité de l'information plutôt que sur la similarité textuelle, une légende devant avant tout maximiser la couverture des éléments réellement présents dans la vidéo. Cette reformulation a une portée pratique directe pour l'industrie des modèles multimodaux : elle affecte la manière dont les laboratoires classent et améliorent leurs VLLM sur les tâches de description vidéo. Des métriques mal calibrées, qui sanctionnent des sorties correctes pour de mauvaises raisons, biaisent l'entraînement et la sélection de modèles, poussant parfois les équipes à optimiser pour coller au style d'une référence plutôt que pour la justesse factuelle. Une évaluation plus fine, capable de distinguer les erreurs d'information des simples divergences de formulation, permettrait des comparaisons de modèles plus fiables et des retours d'entraînement plus pertinents, un enjeu central alors que la génération automatique de légendes vidéo se répand dans la recherche d'information, l'accessibilité et la modération de contenu. Ce travail s'inscrit dans un mouvement plus large de la recherche en IA multimodale, qui cherche à dépasser les métriques de similarité textuelle classiques (de type n-grammes) au profit d'évaluations sémantiques et factuelles, notamment via des questions à choix multiples permettant de vérifier point par point si une information est effectivement présente dans une légende. Cette approche fait écho à des méthodes déjà explorées pour évaluer la fidélité factuelle de résumés textuels ou de réponses de grands modèles de langage. Reste à voir comment ce nouveau cadre d'évaluation sera adopté par la communauté et intégré aux benchmarks standards utilisés pour comparer les futurs VLLM.

Recherche❖Paper

1 source

31

Illustration générée par IA

1234Apple Machine Learning 

SimpleDesign : un modèle conjoint pour la conception simultanée de séquences et structures de protéines

Les protéines occupent un rôle central dans les processus biologiques, leur fonction dépendant de l'interaction complexe entre la séquence d'acides aminés qui les compose et la structure tridimensionnelle qu'elles adoptent. Un nouveau modèle baptisé SimpleDesign a été développé pour aborder ce problème sous un angle différent des approches existantes: la conception conjointe (codesign) de la séquence et de la structure protéiques au sein d'un même système génératif. Jusqu'à présent, les modèles dominants reposaient sur un entraînement en plusieurs étapes distinctes, avec d'abord des autoencodeurs chargés de convertir les données en représentations latentes compactes, puis un modèle génératif entraîné séparément sur ces représentations latentes. Cette approche multi-étapes, bien qu'efficace, pose une limite structurelle: elle traite la séquence et la structure comme deux modalités largement indépendantes plutôt que comme un tout intrinsèquement lié, ce qui peut nuire à la cohérence des protéines générées. Pour des domaines comme la découverte de médicaments et l'ingénierie des protéines, disposer d'un modèle capable de saisir nativement cette relation multi-modale représente un enjeu direct: des protéines conçues avec une meilleure cohérence entre forme et fonction pourraient accélérer la conception de nouvelles molécules thérapeutiques ou d'enzymes sur mesure. Ce travail s'inscrit dans une dynamique de recherche plus large autour des modèles génératifs appliqués à la biologie structurale, où l'enjeu consiste précisément à dépasser les pipelines fragmentés hérités du traitement du langage et de l'image pour construire des architectures pensées dès le départ pour la nature conjointe des données biomoléculaires. En simplifiant le processus d'entraînement classique en deux temps, SimpleDesign s'inscrit dans une tendance vers des architectures plus unifiées, dont les prochaines étapes consisteront probablement à valider les gains de performance face aux méthodes multi-étapes établies sur des benchmarks de conception protéique.

Recherche❖Paper

1 source

36

Illustration générée par IA

1235MarkTechPost 

Redis LangCache : un cache sémantique managé qui réduit jusqu'à 90% les coûts API des LLM

Redis a lancé LangCache, un service de cache sémantique entièrement géré qui s'interpose entre une application et un grand modèle de langage. Le principe : au lieu de renvoyer chaque requête vers le LLM, LangCache compare la question entrante au sens des questions déjà traitées, via une recherche vectorielle, et renvoie directement la réponse stockée si une correspondance suffisamment proche existe. Redis annonce des économies pouvant atteindre 90% sur les coûts d'API et des réponses jusqu'à 15 fois plus rapides lors d'un cache hit. Le service est disponible dès maintenant en préversion publique sur Redis Cloud, accessible via une API REST avec des SDK Python et JavaScript, Redis précisant que ses fonctionnalités peuvent encore évoluer. Dans une démonstration citée par l'entreprise, une inférence directe a nécessité 2,232 secondes et consommé 514 tokens en entrée plus 250 en sortie, contre 0,37 seconde et zéro token facturé avec LangCache, soit environ six fois plus rapide. Le client Mangoes.ai, qui exploite une application vocale de suivi de patients, rapporte un taux de cache de 70%, une réduction de 70% de sa facture LLM et des réponses quatre fois plus rapides. L'enjeu tient à un constat simple : dans les assistants de support ou les pipelines RAG en production, la même intention revient des milliers de fois par jour sous des formulations différentes, et la plupart des systèmes traitent chaque reformulation comme une requête entièrement nouvelle et entièrement facturée. Les techniques de "prefix caching" existantes n'éliminent qu'une partie du problème: elles réutilisent les calculs liés à un contexte partagé, mais la requête atteint tout de même le modèle et la réponse est intégralement régénérée. LangCache, en stockant directement la réponse finale plutôt que des états intermédiaires, permet d'éviter purement et simplement l'appel au modèle lorsqu'une correspondance sémantique est trouvée, supprimant à la fois les tokens d'entrée, les tokens de sortie et la latence de génération. Redis propose une formule d'estimation des économies mensuelles égale aux coûts de tokens de sortie multipliés par le taux de cache: avec 200 dollars de dépense mensuelle en LLM, dont 60% en tokens de sortie, et un taux de cache de 50%, l'économie atteint 60 dollars par mois. Pour les entreprises qui opèrent des LLM à grande échelle, ce type de levier pèse directement sur la rentabilité des produits d'IA générative. LangCache s'appuie sur la base de données vectorielle de Redis et fonctionne avec n'importe quel fournisseur de LLM et n'importe quel langage de programmation, la génération des embeddings étant assurée par le service ou personnalisable. Le comportement du cache se règle via des seuils de similarité, des durées de vie (TTL), des politiques d'éviction et des contrôles adaptatifs de précision, avec un suivi des taux de succès depuis la console Redis Cloud. Ce lancement s'inscrit dans une tendance plus large où les fournisseurs d'infrastructure cherchent à réduire le coût structurel de l'inférence à mesure que les usages en production se multiplient, après des innovations comme le prefix caching côté moteurs d'inférence. Le résultat réel dépendra toutefois du degré de répétition présent dans le trafic de chaque application, et le choix des questions à mettre en cache reste une décision qui demande une attention particulière selon Redis.

Outils⚒Outil

1 source

39

Illustration générée par IA

1236AWS ML Blog 

Réduire la latence des LLM grâce au routage sensible aux préfixes sur Amazon SageMaker Inference

Amazon SageMaker Inference a lancé le 11 septembre 2026 un nouveau mécanisme baptisé prefix-aware routing, conçu pour réduire la latence des grands modèles de langage (LLM) déployés sur plusieurs instances. Le problème visé est concret : dans une application type chatbot de service client, chaque requête commence par un bloc de contexte fixe (instructions, politiques de l'entreprise), pouvant atteindre 3 000 tokens, suivi d'une question de l'utilisateur d'à peine 50 tokens. Des moteurs comme vLLM ou TensorRT-LLM savent déjà mettre en cache les calculs de ce préfixe répété (technique dite de prefix caching), mais ce cache perd son intérêt dès qu'un pool de plusieurs machines répartit aléatoirement les requêtes, empêchant une même instance de voir suffisamment souvent le même préfixe. La nouvelle fonctionnalité de SageMaker route désormais systématiquement les requêtes partageant un même début de prompt vers la même instance, sans configuration manuelle. Sur des tests avec le modèle Llama 3.1 70B Instruct déployé sur 7 instances ml.p5.48xlarge, Amazon rapporte une réduction du temps avant premier token (TTFT) médian (P50) allant jusqu'à 77 %, une hausse du débit jusqu'à 16 %, et un taux de succès du cache KV passant d'environ 25 % à plus de 80 %. Cette avancée compte pour toute entreprise exploitant des LLM à grande échelle en production, notamment celles gérant des volumes élevés de requêtes avec des contextes longs et répétitifs, comme les assistants virtuels d'entreprise, les outils de support client ou les applications juridiques et médicales s'appuyant sur des documents de référence volumineux. Une latence divisée par trois ou quatre sur le temps de première réponse se traduit directement par une expérience utilisateur plus fluide et par des coûts d'inférence réduits, puisque moins de calcul redondant est effectué sur les mêmes tokens. Pour les équipes d'ingénierie, l'intérêt est aussi la simplicité : la fonctionnalité s'active sans avoir à gérer soi-même une logique d'affinité ou de tagging des requêtes, un travail auparavant complexe à implémenter correctement à grande échelle. Ce lancement s'inscrit dans la compétition plus large que se livrent les fournisseurs de cloud (Amazon Web Services, Microsoft Azure, Google Cloud) pour optimiser l'infrastructure d'inférence des LLM, un poste de coût devenu critique à mesure que les modèles et leurs contextes s'allongent. Amazon a intégré deux garde-fous pour éviter les effets pervers d'un tel routage ciblé : une protection contre la surcharge, qui redirige une requête vers une instance moins occupée si la machine cible a atteint sa limite de concurrence configurée, et une stabilité du comportement lors du scaling, qui limite le nombre de requêtes redistribuées quand des instances sont ajoutées ou retirées, évitant d'invalider les caches à chaque ajustement de capacité. Les tests ont couvert 16 configurations différentes, incluant les endpoints à modèle unique, les composants d'inférence, l'API native Invoke et l'API compatible OpenAI, avec un taux de réussite de 100 %, aussi bien sur des charges à contexte long (préfixes de 8 000 tokens sur une heure) que sur des conversations de longueur variable de type ShareGPT.

Infrastructure⚡Actu

1 source

35

Illustration générée par IA

1237MarkTechPost 

NVIDIA détaille BioIR : débit de repliement Boltz-2 multiplié par 2,9 et 58 500 résidus par heure-GPU sur 8 H100

NVIDIA a détaillé le fonctionnement de son BioNeMo Inference Runtime (BioIR), une bibliothèque Python qui accélère les modèles de prédiction de structures biomoléculaires sur GPU tout en conservant un flux de travail PyTorch standard. Cet outil a déjà tourné à échelle de production : il a permis l'expansion récente de l'AlphaFold Database, générant des structures de complexes protéiques sur 4 777 protéomes, soit environ 31 millions de complexes candidats, dont 1,81 million publiés comme prédictions à haute confiance. Dans un benchmark portant sur 1 000 cibles dimériques humaines (longueurs de séquence combinées inférieures à 2 800 résidus) exécuté sur 8 GPU H100 de 80 Go, BioIR associé au modèle Boltz-2 a traité l'ensemble des cibles en délivrant 58,5 milliers de résidus repliés avec succès par heure-GPU allouée, contre une implémentation open source de Boltz-2 compilée avec torch.compile utilisant les mêmes cibles, les mêmes MSA préparés et la même configuration matérielle. Au niveau du calcul du modèle seul, NVIDIA rapporte des accélérations moyennes géométriques par rapport à une base torch.compile de 1,55x pour OpenFold3, 1,78x pour Boltz-2 et 2,56x pour OpenFold2 monomère sur H100, avec des résultats similaires sur H200. BioIR est disponible dès maintenant sur GitHub sous forme de wheel avec des CUBIN précompilés, nécessitant Python 3.12 ou supérieur, un GPU NVIDIA compatible, un checkpoint de modèle et des MSA A3M par chaîne, sans besoin de nvcc, CUDA source, CMake ni du CUDA toolkit complet. Cette accélération répond à un changement de nature dans la prédiction de structures biomoléculaires : l'enjeu n'est plus de savoir si un modèle peut replier une protéine, mais de faire circuler des files entières de cibles indépendantes à travers l'analyse, la featurisation, l'inférence GPU et l'écriture des résultats, à l'échelle du protéome entier. Pour les laboratoires de recherche pharmaceutique et les équipes de biologie computationnelle, un gain de débit de ce type signifie pouvoir cribler des dizaines de millions de complexes candidats en un temps et un coût de calcul nettement réduits, ce qui accélère la découverte de cibles thérapeutiques et la caractérisation d'interactions protéine-protéine à grande échelle. Le fait que BioIR reste compatible avec les objets torch.nn.Module habituels, sans étape de compilation d'un moteur séparé ni export d'artefact, abaisse aussi la barrière d'adoption pour les équipes déjà investies dans des pipelines PyTorch existants comme Boltz-2 ou OpenFold. Techniquement, BioIR agit sur trois couches distinctes : la sélection de noyaux de calcul optimisés (implémentations maison, cuEquivariance ou repli PyTorch selon le GPU, le type de données et la forme des tenseurs), l'optimisation de modules via la capture de CUDA Graph pour réduire la surcharge de lancement, et la mise à l'échelle du pipeline grâce à un exécuteur Ray qui place une réplique complète du modèle sur chaque GPU visible d'un nœud pour répartir des entrées indépendantes, tout en recouvrant les étapes CPU avec le calcul GPU. Le repliement en parallèle de contexte, qui permettrait de répartir une seule cible sur plusieurs GPU, est annoncé comme prévu mais pas encore disponible. Ce travail s'inscrit dans une compétition plus large entre grands fournisseurs de calcul et laboratoires de biologie structurale, dans la lignée d'AlphaFold de DeepMind et de modèles comme Boltz-2, où l'infrastructure logicielle devient un facteur de différenciation aussi important que les modèles eux-mêmes pour faire tourner la biologie computationnelle à l'échelle industrielle.

Infrastructure⚡Actu

1 source

39

Illustration générée par IA

1238AWS ML Blog 

Réduire les temps de démarrage à froid sur Amazon SageMaker HyperPod grâce à la mise en cache des modèles

AWS a lancé une nouvelle fonctionnalité de mise en cache de modèles pour Amazon SageMaker Inference sur HyperPod, destinée à réduire drastiquement les temps de démarrage à froid lors du déploiement de grands modèles de langage. Jusqu'à présent, chaque nouveau pod d'inférence devait suivre deux téléchargements séquentiels avant de pouvoir traiter la moindre requête : l'image du conteneur du serveur d'inférence depuis Amazon ECR, puis les poids du modèle depuis une source de stockage comme Amazon S3, Amazon FSx for Lustre ou HuggingFace Hub. Pour les images de serveurs comme vLLM ou LMI, qui embarquent pilotes GPU, bibliothèques CUDA et framework de service, ce seul téléchargement prend entre 5 et 7 minutes. Pour les poids d'un modèle de 145 Go stocké sur S3, il faut compter plus de 20 minutes supplémentaires, et pour un modèle massif comme DeepSeek-R1, qui dépasse 600 Go, l'attente grimpe à plus de 30 minutes avant qu'une seule requête puisse être servie. Avec le nouveau système de cache, les poids et les images sont préchargés sur les nœuds du cluster avant même que les pods en aient besoin, ce qui permet une lecture depuis un stockage NVMe local à environ 7 Go/s au lieu d'un téléchargement réseau, ramenant le temps de démarrage à quelques secondes. Cette avancée change concrètement la donne pour l'autoscaling en production. Lorsqu'un pic de trafic déclenche le HorizontalPodAutoscaler et que celui-ci demande, par exemple, cinq nouveaux pods, chacun devait auparavant répéter indépendamment tout le cycle de téléchargement : même si la politique d'autoscaling réagissait en quelques secondes, le temps réel avant de pouvoir absorber le trafic supplémentaire atteignait 25 à 30 minutes, voire plus. Pour les équipes qui opèrent des modèles volumineux en production, ce délai représentait un goulot d'étranglement critique, capable de provoquer des dégradations de service lors de montées en charge soudaines. En réduisant ce temps à quelques secondes, AWS permet aux entreprises de dimensionner leurs déploiements d'inférence de façon beaucoup plus réactive, sans sacrifier la disponibilité du service ni sur-provisionner en permanence des ressources coûteuses en GPU pour anticiper les pics. Techniquement, la fonctionnalité repose sur deux composants indépendants et activables séparément : un cache de poids et un cache d'images. Il suffit d'ajouter la configuration modelCacheConfig avec l'option weightsCache activée dans la ressource InferenceEndpointConfig ou JumpStartModel. L'opérateur d'inférence HyperPod crée alors automatiquement une ressource ModelDataCacheConfig, télécharge les poids sur le stockage NVMe local de tous les nœuds ciblés, puis étiquette chaque nœud comme prêt dès que le cache est disponible, avant de lancer le déploiement d'inférence. Le cache reste disponible lors des redémarrages de pods sur un même nœud, et les nouveaux pods qui atterrissent sur des nœuds déjà en cache démarrent immédiatement, ce qui s'inscrit dans la stratégie plus large d'AWS visant à rendre l'infrastructure GPU pour l'IA générative plus efficace et plus rentable à exploiter.

Infrastructure⚡Actu

1 source

44

Illustration générée par IA

1239MarkTechPost 

OpenAI lance l'API Agents en bêta publique, avec le moteur Codex accessible via un seul appel

OpenAI a lancé en beta publique son Agents API, une nouvelle offre qui expose directement l'infrastructure ayant servi à faire tourner Codex et ChatGPT for Work. Concrètement, OpenAI héberge et maintient le harnais d'agent (le moteur qui gère le contexte, les outils et la coordination), tandis que les développeurs choisissent où faire tourner le calcul de l'agent : dans un bac à sable géré par OpenAI, sur leur propre infrastructure via un serveur codex exec-server auto-hébergé, ou chez un partenaire (Blaxel, Cloudflare, Daytona, DigitalOcean, E2B, Modal, Oracle, Runloop et Vercel figurent parmi les intégrations de premier rang). Le service est accessible à tous les développeurs dès maintenant, avec des données restreintes aux Etats-Unis et sans prise en charge de l'option "zero data rétention". L'API s'articule autour de quatre notions : l'agent (modèle, instructions, outils et serveurs MCP disponibles), l'environnement (le bac à sable optionnel où l'agent accède aux fichiers et exécute des commandes), la session (l'instance durable qui traite les tâches) et les événements, soit les entrées envoyées et les sorties produites. Un exemple fourni par OpenAI montre un agent d'investigation d'incidents créé en un seul appel API, capable de déléguer l'analyse à des sous-agents spécialisés. Cette annonce marque un changement d'échelle dans la manière dont les entreprises pourront déployer des agents autonomes de longue durée. Jusqu'ici, faire tourner un agent capable de travailler pendant plusieurs jours sans interruption exigeait de construire soi-même la logique de compaction du contexte, la gestion des outils et l'orchestration de sous-agents, un travail d'ingénierie lourd que peu d'équipes maîtrisaient. En le proposant comme service managé, OpenAI abaisse fortement la barrière à l'entrée pour des cas d'usage comme l'investigation automatisée d'incidents en production, l'analyse de dépendances logicielles ou la remédiation de bugs, des tâches qui nécessitent une mémoire de travail étendue et une coordination fine entre plusieurs sous-tâches. Pour les développeurs, cela signifie moins de code d'infrastructure à écrire et à maintenir, mais aussi une dépendance accrue à l'écosystème et aux choix d'hébergement d'OpenAI, notamment sur la question sensible de la localisation des données, limitée aux Etats-Unis pour l'instant. Cette sortie s'inscrit dans une stratégie plus large d'OpenAI consistant à transformer les briques internes ayant fait le succès de Codex en produits commerciaux réutilisables par des tiers. L'entreprise positionne désormais trois offres distinctes et complémentaires : l'Agents API, où OpenAI gère tout le harnais ; l'Agents SDK, qui tourne entièrement dans l'application du développeur ; et la Responses API, qui laisse le développeur orchestrer lui-même avec une aide hébergée optionnelle. Ce choix reflète une tendance de fond du secteur, où les fournisseurs de modèles cherchent à capter davantage de la chaîne de valeur au-delà du simple accès au modèle, en vendant aussi l'infrastructure d'exécution des agents. La montée en puissance des intégrations avec des fournisseurs de bacs à sable comme E2B, Modal ou Cloudflare, illustre également l'émergence d'un écosystème spécialisé autour du calcul isolé et sécurisé nécessaire aux agents autonomes, un terrain sur lequel Google, Anthropic et d'autres acteurs sont également engagés dans une compétition croissante.

Outils⚒Outil

Aussi surBlog du Modérateur

38

Illustration générée par IA

1240AWS ML Blog 

Recherche vidéo et image dans Amazon Bedrock Knowledge Base avec Marengo 3.0

Amazon Web Services a annoncé la disponibilité générale de TwelveLabs Marengo Embed 3.0 comme modèle d'embedding dans Amazon Bedrock Knowledge Bases, son service managé de recherche augmentée par récupération. Ce modèle multimodal encode conjointement vidéo, audio, image et texte dans un espace vectoriel compact de 512 dimensions. Amazon Bedrock Knowledge Bases prend en charge les formats vidéo MP4 et MOV, les images JPEG et PNG, ainsi que les pistes audio, avec des connecteurs natifs vers Amazon S3, SharePoint et Confluence. AWS a illustré la fonctionnalité avec un cas pratique portant sur un extrait de dix minutes de la finale de la Coupe du monde de football 2022, ingéré dans une base de connaissances puis interrogé en langage naturel, par exemple pour retrouver le penalty de la seconde mi-temps. Le paramétrage par défaut segmente l'audio et la vidéo par tranches de quatre secondes, et l'ensemble du traitement, extraction d'images, transcription, génération d'embeddings et indexation vectorielle, s'exécute automatiquement dès le dépôt des fichiers dans un bucket S3, sans prétraitement manuel de la part de l'utilisateur. Cette annonce change concrètement la donne pour les équipes qui exploitent de gros volumes de contenus vidéo, médias, diffuseurs sportifs, plateformes éducatives, sécurité et retail, qui devaient jusqu'ici assembler elles-mêmes une chaîne complexe combinant services de transcription, extraction d'images, modèles d'embedding, bases vectorielles et logique de synchronisation. En intégrant Marengo Embed 3.0 directement dans Bedrock Knowledge Bases aux côtés du modèle Amazon Titan Text proposé par défaut, AWS transforme la recherche sémantique dans la vidéo en une fonctionnalité clé en main, accessible via la console sans expertise poussée en ingénierie de données. Pour l'analyse sportive, cela permet de localiser un instant précis dans des heures de rushes sans visionnage manuel ; pour la sécurité, de retrouver un évènement dans de longues heures de vidéosurveillance ; pour l'e-commerce, d'indexer des catalogues de vidéos produits par leur contenu visuel réel plutôt que par leurs seules métadonnées textuelles. Cette intégration s'inscrit dans l'élargissement plus large d'Amazon Bedrock Knowledge Bases, initialement pensé pour la recherche documentaire textuelle, vers des cas d'usage multimodaux, à mesure que les entreprises accumulent des volumes croissants de contenus vidéo largement sous-exploités faute d'outils de recherche adaptés. TwelveLabs, spécialiste de l'intelligence vidéo dont la gamme de modèles Marengo sert déjà à l'indexation et à la recherche multimodale, devient ainsi un partenaire d'embedding proposé nativement sur l'infrastructure cloud d'AWS, aux côtés des modèles maison comme Titan. Cette annonce illustre la concurrence croissante entre fournisseurs cloud pour équiper les entreprises d'outils de RAG capables de traiter au-delà du texte, alors que la demande explose pour des systèmes interrogeant nativement l'image, le son et la vidéo. Les prochaines étapes attendues concernent l'élargissement de la disponibilité régionale du modèle, ainsi que son association avec des modèles de langage capables de générer des réponses à partir des contenus retrouvés, pour transformer non seulement la recherche mais aussi l'exploitation analytique de ces archives vidéo.

Outils⚒Outil

1 source