Token Selection

The Statistics of Token Selection: Logits, Temperature, and Top-P Walkthrough

Este contenido explica el proceso de selección de tokens en grandes modelos de lenguaje (LLMs). Detalla cómo criterios como logits, temperatura y top-p influyen en la coherencia y la creatividad de las salidas generadas.