Premier épisode de la série « Neural Networks: Zero to Hero » : Andrej Karpathy construit pas à pas un moteur de rétropropagation minimaliste, pour comprendre le mécanisme au cœur de tout réseau de neurones.
Ancien directeur IA chez Tesla et chercheur chez OpenAI, Andrej Karpathy ouvre sa série pédagogique « Neural Networks: Zero to Hero » par la construction, ligne par ligne, d'un moteur de rétropropagation appelé micrograd. L'exercice ne suppose qu'une base de Python et un vague souvenir du calcul différentiel du lycée.
La vidéo pose les fondations conceptuelles reprises dans le reste de la série, qui va jusqu'à la construction d'un modèle de langage de type GPT à partir de zéro.
Watch this video directly on YouTube
Open on YouTube →