Do Not Let Models Invent Numbers - Vinoo Ganesh, Kepler

Le PDG de Kepler explique comment son assistant financier laisse le modèle citer les chiffres sans jamais les écrire, et supprime tout nombre invérifiable.

En finance, un chiffre qu'on ne peut pas sourcer n'a pas sa place dans une réponse. Vinoo Ganesh, PDG de Kepler et passé par Palantir et Citadel, détaille dans cette intervention de 21 minutes l'architecture de son produit : le modèle de langage désigne les chiffres mais ne les rédige jamais lui-même. La recherche documentaire retrouve la source, du code déterministe effectue les calculs, et un filtre final retire toute valeur impossible à rattacher à un document.

Il présente le registre de citations bâti à partir de plus de 30 millions de documents déposés auprès de la SEC, la structuration de chaque fait (valeur, unité, échelle, période), la recherche hybride avec reclassement sur turbopuffer et l'isolation entre clients. Il explique aussi pourquoi un RAG classique produisait des milliers de chiffres erronés lors de leurs évaluations, avant de montrer l'outil en action et de préciser où s'arrêtent ses garanties.