Recherche sur les environnements proactifs…

Weblica : des environnements d'entraînement évolutifs et reproductibles pour les agents web visuels

38

1Apple Machine Learning

Weblica : des environnements d'entraînement évolutifs et reproductibles pour les agents web visuels

Le développement d'agents web visuels autonomes, capables de naviguer et d'interagir avec des interfaces comme le ferait un humain, se heurte à un obstacle majeur: l'entraînement de ces systèmes nécessite des environnements web à grande échelle, or le web réel est complexe, changeant en permanence et impossible à figer pour un apprentissage reproductible. Une équipe de chercheurs propose Weblica (contraction de Web Replica), un framework conçu pour construire des environnements web à la fois reproductibles et scalables. La méthode combine deux mécanismes techniques: un système de mise en cache au niveau HTTP qui capture et rejoue des états visuels stables tout en conservant le comportement interactif des pages, et une synthèse d'environnements pilotée par des grands modèles de langage. Cette approche répond à une limite concrète des méthodes existantes, qui reposent soit sur des trajectoires de navigation enregistrées hors ligne et utilisées pour du fine-tuning supervisé, soit sur une poignée d'environnements simulés dédiés à l'apprentissage par renforcement. Dans les deux cas, ces jeux de données échouent à représenter la diversité réelle du web, ce qui limite la capacité des agents entraînés à généraliser une fois confrontés à de vrais sites. En rendant possible la création d'environnements web nombreux, fidèles et rejouables à l'identique, Weblica ouvre la voie à un entraînement par renforcement à bien plus grande échelle pour les agents web visuels, avec un potentiel impact direct sur la fiabilité des futurs assistants capables d'automatiser des tâches en ligne pour les utilisateurs. Ce travail s'inscrit dans une course plus large de l'industrie de l'IA vers des agents capables d'agir de façon autonome sur le web, un enjeu identifié comme clé par les principaux laboratoires de recherche. La difficulté à générer des données d'entraînement représentatives du web réel constitue un frein reconnu depuis plusieurs années, et les solutions comme Weblica visent à combler ce manque en s'appuyant sur les grands modèles de langage eux-mêmes pour générer et diversifier ces environnements de simulation.

RecherchePaper

1 source

SocialReasoning-Bench : évaluer si les agents IA agissent dans l'intérêt des utilisateurs

45

2Microsoft Research

SocialReasoning-Bench : évaluer si les agents IA agissent dans l'intérêt des utilisateurs

Des chercheurs ont publié SocialReasoning-Bench, un nouveau dispositif d'évaluation conçu pour mesurer la capacité des agents d'intelligence artificielle à défendre réellement les intérêts de leurs utilisateurs lors d'interactions sociales. Le benchmark se déploie dans deux scénarios concrets : la coordination de calendrier, où un agent gère les disponibilités d'un utilisateur face à une demande de réunion d'un autre agent, et la négociation commerciale en ligne, où l'agent doit obtenir les meilleures conditions d'achat ou de vente. Chaque scénario est évalué selon deux critères : l'optimisation du résultat obtenu pour l'utilisateur et la qualité du processus décisionnel suivi. Les résultats sur les modèles actuels de pointe sont décevants : les agents accomplissent généralement la tâche, mais acceptent trop souvent des créneaux horaires défavorables ou des offres commerciales médiocres plutôt que de négocier fermement. Même lorsqu'on leur demande explicitement d'agir dans l'intérêt de l'utilisateur, leurs performances restent bien en deçà de ce qu'on attendrait d'un mandataire fiable. L'enjeu est concret et croissant. Des outils comme Claude Cowork d'Anthropic ou Google Gemini s'intègrent déjà aux calendriers et aux boîtes mail pour agir au nom des utilisateurs. Si ces agents acceptent systématiquement le premier compromis venu plutôt que de défendre activement les préférences de la personne qu'ils représentent, ils deviennent des délégués de façade plutôt que de vrais alliés. Le manque de combativité dans la négociation n'est pas anodin : dans un contexte commercial ou professionnel, cela se traduit directement en valeur perdue pour l'utilisateur. La question de la loyauté des agents, distincte de leur simple compétence technique, devient ainsi centrale pour l'adoption à grande échelle de ces systèmes. Ce travail s'inscrit dans une lignée de recherches qui documentent les fragilités sociales des modèles actuels. Des expériences antérieures avaient montré que des agents dans un marché simulé acceptaient la première proposition reçue dans jusqu'à 93 % des cas sans explorer les alternatives. Une autre étude de red-teaming avait démontré qu'un seul message malveillant pouvait se propager dans un réseau d'agents et les amener à divulguer des données privées. Le cadre conceptuel mobilisé est celui de la relation principal-agent, bien établi en économie et en droit : avocats, agents immobiliers et conseillers financiers sont soumis depuis des siècles à des obligations de diligence, de loyauté et de confidentialité envers leurs mandants. SocialReasoning-Bench vise à créer une référence mesurable pour forcer les modèles à s'aligner sur ces mêmes standards, à mesure que les agents IA s'immiscent dans des contextes toujours plus sensibles.

UEDans le contexte de l'AI Act européen, ce benchmark pourrait servir de référence pour évaluer et imposer des standards de loyauté des agents IA déployés sur le marché européen.

RechercheOpinion

1 source

Strands Evals : simuler des utilisateurs réalistes pour évaluer les agents IA multi-tours

37

3AWS ML Blog

Strands Evals : simuler des utilisateurs réalistes pour évaluer les agents IA multi-tours

Amazon a publié dans son SDK Strands Evaluations une fonctionnalité appelée ActorSimulator, destinée à automatiser l'évaluation des agents IA dans des conversations multi-tours. Contrairement aux tests à tour unique — où l'on fournit une entrée, on collecte une sortie et on juge le résultat — les interactions réelles s'étendent sur plusieurs échanges : l'utilisateur pose des questions de suivi, change de direction ou exprime sa frustration face à des réponses incomplètes. Un assistant de voyage qui gère correctement "Réserve-moi un vol pour Paris" peut échouer lorsque le même utilisateur enchaîne avec "En fait, peut-on regarder les trains ?" ou "Qu'en est-il des hôtels près de la tour Eiffel ?". L'ActorSimulator permet de générer des utilisateurs simulés avec des personas structurés et des objectifs définis, puis de les laisser converser naturellement avec un agent sur plusieurs tours, à grande échelle. L'enjeu est considérable pour les équipes qui développent des agents conversationnels en production. Conduire manuellement des centaines de conversations multi-tours à chaque modification d'un agent est insoutenable, et les jeux de données statiques d'entrées/sorties ne capturent pas la dynamique réelle : la "bonne" prochaine question de l'utilisateur dépend entièrement de ce que l'agent vient de répondre. Les approches artisanales consistant à demander à un LLM de "jouer l'utilisateur" sans définition structurée du persona produisent des résultats incohérents d'une exécution à l'autre, rendant impossible la détection fiable de régressions. L'ActorSimulator répond à ce problème en combinant le réalisme d'une conversation humaine avec la reproductibilité et l'échelle des tests automatisés. Ce développement s'inscrit dans une tendance plus large de l'industrie à professionnaliser l'évaluation des agents IA, à mesure que ceux-ci quittent les démos pour entrer dans des usages critiques. AWS positionne Strands Evaluations comme une infrastructure d'évaluation systématique, comparable aux simulateurs de vol ou aux moteurs de jeu qui testent des millions de comportements avant déploiement. La difficulté fondamentale réside dans la croissance combinatoire des chemins de conversation : plus les capacités d'un agent s'étoffent, plus le nombre de scénarios possibles explose au-delà de ce que des équipes humaines peuvent explorer. En permettant la simulation structurée de personas avec des objectifs explicites et un suivi de progression, Strands Evals vise à offrir aux équipes d'évaluation un outil comparable à ce que les testeurs de logiciels ont dans d'autres disciplines d'ingénierie, avec des résultats comparables dans le temps.

OutilsOutil

1 source

46

4MarkTechPost

Stanford présente TRACE, un système d'entraînement d'agents ciblé sur les compétences qui transforme leurs échecs récurrents en environnement RL synthétique

Des chercheurs de Stanford ont développé TRACE (Turning Recurrent Agent failures into Capability-targeted training Environments), un système publié en open source sous licence MIT qui transforme les échecs récurrents des agents fondés sur des LLM en environnements d'entraînement ciblés. Le constat de départ est simple: un agent ne rate pas ses tâches au hasard, mais parce qu'il lui manque des capacités précises et réutilisables, comme retrouver la bonne information ou vérifier une condition préalable. Face à ce problème, les approches classiques, apprentissage par renforcement direct, réglage fin supervisé ou génération de données synthétiques non ciblée, gaspillent une grande partie du budget de calcul sur des compétences que le modèle maîtrise déjà, sans jamais signaler précisément quelle capacité fait défaut. TRACE fonctionne en quatre étapes automatisées, chacune pilotée par un agent LLM suivant un prompt structuré. D'abord, une analyse contrastive compare les trajectoires réussies et échouées pour identifier les capacités absentes, en ne retenant que celles dont l'écart entre succès et échec dépasse un seuil de 0,20 et dont la couverture dépasse 0,10. Ensuite, un agent générateur construit un environnement synthétique dédié à chaque capacité retenue, avec des instances de tâches produites automatiquement à partir de graines aléatoires, ce qui permet une vérification purement algorithmique sans recours à un juge humain ou à un LLM évaluateur. Chaque capacité reçoit alors son propre adaptateur LoRA, entraîné via l'algorithme GRPO (Group Relative Policy Optimization) pendant que le modèle de base reste figé. Enfin, ces adaptateurs sont combinés dans une architecture de mélange d'experts (Mixture-of-Experts), où seules de légères portes de routage sont entraînées, permettant au modèle d'orienter chaque token vers l'expert le plus pertinent en cours de raisonnement. Cette approche change la manière dont les équipes peuvent corriger les faiblesses d'un agent en production: plutôt que de réentraîner l'ensemble du modèle ou de multiplier les tentatives de prompt engineering, il devient possible de diagnostiquer précisément quelles compétences manquent et d'y répondre par un entraînement chirurgical, moins coûteux en calcul et plus facile à faire évoluer au fil du temps. Pour les entreprises qui déploient des agents autonomes dans des tâches complexes comme la gestion de réservations ou le support client, cela ouvre la voie à une amélioration continue ciblée, où chaque nouvel échec récurrent peut être transformé en module d'entraînement supplémentaire sans perturber les capacités déjà acquises. Sur le benchmark τ²-Bench, testé avec le modèle Qwen3-30B-A3B, TRACE a surpassé à la fois les méthodes d'optimisation de prompts et les approches à adaptateur unique en matière de taux de réussite global. Ce travail s'inscrit dans une tendance plus large de recherche sur les agents fondés sur des LLM, où la difficulté ne vient plus seulement de la puissance brute des modèles mais de leur capacité à combler des lacunes spécifiques de façon vérifiable. Les auteurs ont publié leur code et leur article, référencé sous l'identifiant arXiv:2604.05336, ce qui devrait permettre à d'autres équipes de reproduire et d'étendre cette méthode à d'autres environnements agentiques.

RecherchePaper

1 source

Recherche sur les environnements proactifs d'agents : simuler des utilisateurs actifs pour évaluer les assistants proactifs

À lire aussi

Weblica : des environnements d'entraînement évolutifs et reproductibles pour les agents web visuels

SocialReasoning-Bench : évaluer si les agents IA agissent dans l'intérêt des utilisateurs

Strands Evals : simuler des utilisateurs réalistes pour évaluer les agents IA multi-tours

Stanford présente TRACE, un système d'entraînement d'agents ciblé sur les compétences qui transforme leurs échecs récurrents en environnement RL synthétique