Vider l'historique de conversation aide les agents IA à trouver de meilleures solutions
Des chercheurs de Microsoft ont montré que les agents d'IA autonomes se retrouvent piégés dans ce qu'ils appellent des « bassins d'idées » (idea basins). Ce phénomène vient de l'accumulation de l'historique de conversation : plus le contexte grossit, plus l'agent reste cantonné à une région locale de solutions dont il ne parvient pas à sortir. Pour y remédier, l'équipe propose une méthode baptisée « Fork-and-Flush », qui consiste à vider l'historique de conversation tout en conservant l'espace de travail, c'est-à-dire les fichiers, le code et les résultats déjà produits. À budget de calcul identique, cette approche obtient jusqu'à 66 % de meilleurs résultats.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
L'enjeu est considérable pour toute organisation qui confie à des agents des tâches longues et ouvertes, comme l'optimisation de code, la recherche de solutions ou l'exploration scientifique. Le gain annoncé ne vient pas d'un modèle plus puissant ni de ressources supplémentaires, mais d'une simple gestion du contexte, ce qui rend la méthode peu coûteuse à adopter. Elle suggère aussi qu'un historique plus long n'est pas toujours un avantage : il peut ancrer l'agent dans ses premières pistes et réduire la diversité de ses tentatives. Les développeurs d'agents pourraient donc repenser la manière dont ils organisent la mémoire de travail de leurs systèmes.
Ces travaux s'inscrivent dans une réflexion plus large sur les limites des agents autonomes sur de longues durées. Les fenêtres de contexte s'étendent à des millions de jetons, mais les chercheurs constatent de plus en plus que davantage de contexte ne signifie pas de meilleurs raisonnements, car les anciennes hypothèses pèsent sur chaque décision suivante. La séparation entre la mémoire conversationnelle, qui est jetable, et l'état du travail, qui est durable, pourrait devenir un principe de conception courant. Reste à voir comment cette méthode se comporte sur d'autres types de tâches et si les grands acteurs de l'IA l'intégreront dans leurs outils d'agents.
Pas d'impact direct sur la France/UE