Une développeuse d'AWS explique pourquoi agrandir la fenêtre de contexte ne règle pas les pannes d'agents, et présente quatre stratégies de gestion de la mémoire.
Lors d'une conférence AI Engineer, Elizabeth Fuentes Leone, developer advocate chez AWS, s'attaque à une idée répandue : il suffirait d'une fenêtre de contexte plus grande pour que les agents cessent de dérailler quand leurs outils renvoient d'énormes volumes de données. Elle rappelle que les modèles retiennent bien le début et la fin d'un long contexte, mais perdent ce qui se trouve au milieu.
À l'aide du framework open source Strands Agents, elle détaille quatre stratégies, avec du code : externaliser, sélectionner, compresser et isoler. Au programme : gestionnaires de conversation à fenêtre glissante ou par résumé, mémoire à court terme, à long terme et en graphe, pointeurs de mémoire qui gardent les gros résultats d'outils hors du contexte et se partagent entre agents, plafonnement des appels d'outils pour éviter les boucles sans fin, et traitement asynchrone des outils MCP lents. La présentation se termine par les erreurs de conception à éviter.
Watch this video directly on YouTube
Open on YouTube →