Quatre niveaux d'ingénierie de contexte pour les agents IA en production : l'exemple de Deep Insight, code à l'appui
Les agents d'IA en production qui analysent des données ou génèrent des rapports se heurtent vite à la gestion du contexte. Une fenêtre de 200 000 tokens, comme celle de Claude Sonnet 4.5 sur Amazon Bedrock, paraît généreuse, mais une demande comme « analyser les ventes et produire un rapport DOCX » enchaîne chargement des données (5 minutes), analyse par catégorie (3), cinq graphiques temporels (10), validation statistique (3) et rédaction finale (5). Le tout consomme plus de 150 000 tokens en 15 minutes. AWS présente, dans la deuxième partie d'une série, quatre couches d'ingénierie du contexte qui convergent avec les publications d'Anthropic et les fonctions du SDK Strands Agents : isoler le contexte au niveau de l'architecture, le piloter par les prompts, l'externaliser vers le système de fichiers, puis le vérifier avec des agents indépendants et des garde-fous. Dans l'implémentation de référence, Deep Insight, solution open source multi-agents bâtie sur Strands Agents et Amazon Bedrock AgentCore, un outil unique d'écriture et d'exécution réduit d'environ 95 % les tokens que chaque script ajoute au contexte, et le chargement de compétences à la demande diminue d'environ 97 % la taille du prompt système.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
L'enjeu est très concret pour les équipes qui déploient des agents. Traiter une telle tâche dans un seul contexte provoque des débordements en cours d'exécution, une dégradation des performances due à un contexte périmé, et l'obligation de relancer tout le pipeline à chaque erreur. La facturation au token aggrave le problème, puisque l'inefficacité se paie directement. Les gains mesurés dans Deep Insight montrent que ces techniques, souvent lues dans la littérature mais rarement appliquées ensemble, changent sensiblement le coût, la fiabilité et la précision des agents. Chaque couche compense les angles morts des précédentes, ce qui fait de l'ingénierie du contexte une discipline transversale, de la conception d'architecture à l'implémentation des outils et à la vérification, plutôt qu'une simple collection d'astuces.
Ce travail prolonge un premier article qui définissait cinq défis majeurs des systèmes multi-agents en production et montrait comment Strands Agents SDK, Amazon Bedrock, Bedrock AgentCore et AWS Fargate répondent à différents niveaux du problème. Un troisième volet, annoncé, portera sur l'exploitation en production dans un réseau privé sécurisé sur Amazon VPC. Le fondement théorique reste le phénomène de « context rot » décrit par Anthropic dans son texte de septembre 2025 sur l'ingénierie du contexte : plus le nombre de tokens augmente, moins le modèle restitue fidèlement l'information. Face à ce constat, les acteurs du secteur cherchent à traiter des tâches qui dépassent la fenêtre disponible, et Deep Insight sert ici de code concret pour illustrer ces pratiques.
Pas d'impact direct sur la France/UE