The Spectral Geometry of Thought: Phase Transitions, Instruction Reversal, Token-Level Dynamics, and Perfect Correctness Prediction in How Transformers Reason

Este artigo de pesquisa revela transições de fase espectrais nos espaços de ativação ocultos de modelos de linguagem grandes durante o raciocínio versus a recuperação de fatos. Uma análise espectral sistemática em 11 modelos e 5 famílias de arquitetura identifica sete fenômenos centrais, incluindo compressão espectral no raciocínio e reversão espectral com ajuste de instrução.