Deux spécialistes de New York Life ont analysé 1 368 incidents d'IA publics pour en tirer une méthode d'évaluation : les contrôles de déploiement défaillants sont les plus liés aux dommages.
Vishal Srivastava et Tanmay Sah, de l'assureur New York Life, ont étudié 1 368 incidents recensés dans une base publique d'incidents d'IA pour en déduire comment tester les systèmes. Ils classent les défaillances selon trois axes (robustesse technique, contrôles de déploiement et impact métier) et 13 sous-catégories qui couvrent environ 98 % des cas. Leur constat principal : ce sont les contrôles de déploiement insuffisants, comme l'absence de relecture humaine ou de surveillance, qui sont le plus étroitement associés aux dommages.
Dans cette conférence AI Engineer, ils expliquent comment hiérarchiser les cas d'usage selon les enjeux, pourquoi l'évaluateur doit lui-même être vérifié, et défendent une boucle « construire, casser, corriger » qui cherche à prouver qu'un système se trompe plutôt qu'à confirmer qu'il fonctionne. Ils l'illustrent avec un chatbot de compagnie aérienne réel qui avait indiqué à un client une politique de remboursement erronée.
Watch this video directly on YouTube
Open on YouTube →