Partie d'un prototype qui hallucinait une fois sur deux en 2023, l'agent Alex d'Arize a été reconstruit plusieurs fois. Son chef de produit explique les choix qui ont tenu, dont un simple fichier mémoire de 8 000 caractères.
Alex est l'agent intégré à la plateforme d'observabilité d'Arize AI. Fuad Ali, chef de produit IA, retrace en une vingtaine de minutes son évolution de 2023 à 2026 : d'un prototype peu fiable à un agent unique doté de planification, de mémoire et de compétences chargées à la demande, construit avec un code d'orchestration maison plutôt qu'avec un framework.
Il passe en revue les décisions qui ont survécu à chaque refonte : confier le plan au harnais plutôt qu'au modèle, faire de la fin de tâche une étape explicite à valider, traiter les gros résultats d'outils comme des fichiers, préférer un fichier mémoire de 8 000 caractères par utilisateur aux bases vectorielles et graphes de connaissances, fusionner dix agents spécialisés en un seul, et réutiliser les sessions de production comme jeux de tests. Il rappelle aussi que le modèle le plus récent n'est pas toujours le meilleur choix, et ce qui exige encore un humain.
Watch this video directly on YouTube
Open on YouTube →