decoder blocks

Video of how my LLM's decoder blocks changed while training

Ce contenu présente une vidéo montrant comment les blocs de décodeur d'un LLM ont changé pendant l'entraînement, faisant suite à une publication populaire précédente. L'auteur partage des données visuelles pour illustrer le processus d'évolution du modèle.