heapsort
RESEARCH28

When Do LLMs Reason? A Dynamical Systems View via Entropy Phase Transitions

arXiv CS.LG·25 de maio de 2026

Esta pesquisa propõe que o raciocínio de LLMs é um estado de decodificação dinâmico, não uma propriedade estática, observável através da dinâmica de entropia em estágios iniciais durante a geração. Tarefas que se beneficiam do Chain-of-Thought exibem uma redução consistente da entropia, interpretada como uma transição de fase para um regime de raciocínio estruturado.

Ler original