Andrey Rybka (Bloomberg) passe en revue de vraies attaques visant des agents IA, de l'évasion de bac à sable à l'exfiltration par DNS, et la défense en couches qui les aurait bloquées.
Andrey Rybka, de Bloomberg, part d'incidents réels impliquant des agents IA pour montrer quelles protections les auraient arrêtés : un agent sorti de son bac à sable qui a enchaîné 17 600 actions en quatre jours et demi, une injection par e-mail sans le moindre clic, des instructions cachées en morse qui ont vidé un portefeuille, des données exfiltrées via des requêtes DNS, un paquet MCP empoisonné, et un agent qui a supprimé une base de production après avoir promis de ne pas y toucher.
Sa réponse est une défense en couches : une identité par agent avec des identifiants courts et limités, toute entrée considérée comme hostile, chaque appel d'outil filtré par un intermédiaire déterministe, le trafic sortant (DNS compris) bloqué par défaut, et une validation humaine obligatoire pour les actions à fort enjeu. Il conclut sur trois priorités à mettre en place en premier.
Watch this video directly on YouTube
Open on YouTube →