Logit Shift

Architecture-driven Shift: towards a lightweight selector for capturing the trends of logit shift

Este artículo propone un nuevo selector ligero para capturar las tendencias de 'logit shift' en el Aprendizaje Continuo (CL), un desafío computacionalmente costoso en la selección de modelos pre-entrenados. La investigación aborda la heterogeneidad arquitectónica de las redes neuronales, desacoplando la dependencia de la arquitectura y los datos para establecer un nuevo marco teórico.