A boy and his dog.

O autor descreve o treinamento de "Scout", um modelo de linguagem de 50M parâmetros, em TinyStories, destacando a importância da qualidade dos dados e o uso de sondas de prompt e Claude Code para avaliação. Ele detalha o progresso do modelo, observando sua capacidade de lembrar os sujeitos, mas com dificuldades de contexto e repetição em 12.800 etapas.