Token Selection

The Statistics of Token Selection: Logits, Temperature, and Top-P Walkthrough

Este conteúdo explica o processo de seleção de tokens em grandes modelos de linguagem (LLMs). Ele detalha como critérios como logits, temperatura e top-p influenciam a coerência e a criatividade das saídas geradas.