Alex Ziskind oppose un Mac Studio M5 Ultra de 256 Go à deux DGX Spark de Nvidia pour faire tourner des LLM en local : le Mac l'emporte de peu sur un test de génération.
Le youtubeur Alex Ziskind compare un Mac Studio équipé de la puce M5 Ultra et de 256 Go de mémoire unifiée à une paire de DGX Spark de Nvidia reliées entre elles, deux configurations prisées pour faire tourner de grands modèles de langage en local.
Sur un test de génération de 800 tokens, le Mac prend un léger avantage : 38,7 tokens par seconde contre 34,3 pour le duo de DGX Spark. Comme le suggère le titre, l'écart dépend toutefois de réglages et de critères qu'on regarde rarement : un seul type de charge ne suffit pas à trancher, mais la vidéo donne un point de repère utile avant d'acheter une machine pour l'IA locale.
Watch this video directly on YouTube
Open on YouTube →