Decomposing Evolutionary Mixture-of-LoRA Architectures: The Routing Lever, the Lifecycle Penalty, and a Substrate-Conditional Boundary

Cet article décompose un système évolutif Mixture-of-LoRA, en examinant des facteurs tels que la réécriture du routeur, l'évaluation par domaine et un cycle de vie d'adaptation. Les résultats montrent que la réécriture du routeur est entièrement responsable de l'amélioration du log-PPL équilibré.