Un agent chargé de réserver un restaurant a passé 200 appels en 90 minutes et fait bannir son utilisateur de Resy. Un panel débat des garde-fous nécessaires avant de confier une vraie autonomie aux agents.
Point de départ de ce panel de la conférence AI Engineer : un agent IA bien intentionné, chargé de réserver une table, a enchaîné 200 appels en une heure et demie et obtenu le bannissement de son propre utilisateur sur Resy, faute de limites.
Animée par Allie Howe (Keycard), la discussion réunit Ian Livingstone, PDG de Keycard, Michael Davis, architecte en chef de la sécurité de JPMorgan Chase, et Dick Hardt, co-créateur d'OAuth. Ils expliquent pourquoi les entreprises rechignent encore à donner une autonomie réelle aux agents, pourquoi les autorisations OAuth actuelles sont trop grossières pour eux, et défendent l'idée d'intégrer un agent comme on accueille un développeur débutant, avec des droits élargis progressivement.
Watch this video directly on YouTube
Open on YouTube →