Chez Optiver, une modification se voit dans les résultats de trading en quelques heures. Le responsable de l'ingénierie IA détaille la plateforme interne qui permet d'adopter un nouveau modèle le jour même.
Dans une société de trading comme Optiver, tout changement livré aux traders se répercute en quelques heures sur les profits et pertes : l'IA doit donc aller vite, mais rester mesurable. Dans cette intervention d'une vingtaine de minutes à la conférence AI Engineer, Noyan Tokgozoglu, qui dirige l'ingénierie IA de l'entreprise, présente la plateforme hébergée en interne qui rend cela possible.
Il décrit une passerelle d'inférence chargée du routage des requêtes et du contrôle des budgets, un processus qui permet d'adopter les nouveaux modèles de pointe le jour de leur sortie après les avoir mesurés sur des jeux de référence internes, et une architecture conçue pour ne dépendre ni d'un modèle ni d'un outil d'orchestration d'agents en particulier.
Watch this video directly on YouTube
Open on YouTube →