RESEARCHarXiv CS.LG·5d atrás
Pseudospectral Bounds for Transient Amplification in Coupled Gradient Descent
O artigo desenvolve uma teoria pseudosspectral precisa para sistemas de gradiente descendente acoplado com jacobianos bloco-triangulares, relevantes para otimização de dois níveis e treinamento adversarial. Ele estabelece limites para a amplificação transiente e caracteriza os limiares críticos de acoplamento para instabilidade espectral.
28