Le responsable des opérations IA de Revolut détaille, chiffres de 2 000 ingénieurs à l'appui, comment l'auto-hébergement de modèles GLM ouverts a accéléré les livraisons pour un dixième du coût des laboratoires de pointe.
Dans cette intervention d'une douzaine de minutes à AI Engineer, David Abitbol, qui pilote les opérations IA de Revolut, présente les mesures faites sur 2 000 ingénieurs : ce que les outils de code IA ont changé au temps de développement et au délai de livraison, et pourquoi le gain le plus net est venu de l'auto-hébergement de modèles open source GLM — des livraisons de 60 à 70 % plus rapides, pour environ un dixième de la facture payée jusque-là aux grands laboratoires.
Il détaille le matériel nécessaire, les objectifs de latence en dessous desquels les développeurs restent satisfaits, les réglages qui ont rendu les mêmes GPU 88 % plus rapides, et la manière dont une banque régulée dans l'Union européenne garde ce dispositif conforme.
Watch this video directly on YouTube
Open on YouTube →