Logit Shift

Architecture-driven Shift: towards a lightweight selector for capturing the trends of logit shift

Dieses Papier schlägt einen neuen leichten Selektor vor, um Logit-Shift-Trends im Kontinuierlichen Lernen (CL) zu erfassen, einer rechenintensiven Herausforderung bei der Auswahl vortrainierter Modelle. Die Forschung befasst sich mit der architektonischen Heterogenität neuronaler Netze, indem sie die Abhängigkeit von Architektur und Daten entkoppelt, um ein neues theoretisches Framework zu etablieren.