Agents de langage capables de compacter eux-mêmes leur contexte
Les longues trajectoires d'agents, faites d'enchaînements de raisonnements et d'appels d'outils, accumulent du contenu périmé qui influence les générations suivantes et finit par dépasser la fenêtre de contexte. Des chercheurs proposent SELFCOMPACT, un système d'encadrement qui laisse le modèle lui-même décider quand et comment compacter son historique. Il repose sur deux éléments mobilisés à l'inférence, dont le premier est un outil de compaction que le modèle invoque pour résumer le contenu accumulé. L'enjeu est très concret pour quiconque déploie des agents sur des tâches longues, comme la recherche ou la résolution de problèmes en plusieurs étapes. Les approches actuelles déclenchent la compaction à intervalle fixe, dès qu'un seuil de jetons est atteint. Ce déclencheur ignore la structure de la trajectoire et risque d'effacer des résultats partiels en pleine démonstration ou en pleine recherche. Confier la décision au modèle permet en principe de compacter à des moments cohérents, par exemple après avoir terminé une sous-tâche, plutôt qu'au hasard d'un compteur. Cela vise à préserver les informations utiles tout en éliminant celles qui polluent le raisonnement. Cette proposition s'inscrit dans la montée en puissance des agents autonomes, dont les traces s'allongent à mesure que les tâches se complexifient. La gestion du contexte est devenue un goulot d'étranglement majeur, au même titre que la qualité du modèle. Les échafaudages existants traitent le problème de l'extérieur, avec des règles mécaniques. SELFCOMPACT déplace ce choix vers l'agent, ce qui pose la question de sa capacité à juger ce qui mérite d'être conservé. La suite dépendra des évaluations comparatives face aux compactions à seuil fixe.
