feature learning

Feature Repulsion and Spectral Lock-in: An Empirical Study of Two-Layer Network Grokking

Este estudio empírico investiga el teorema de repulsión de características en el grokking de redes de dos capas, propuesto por Tian (2025). Se observa una clara disociación estructura-mecanismo, con la regla de signo predicha manteniéndose robusta en pares de características similares.