Este contenido explora el aprendizaje de arquitecturas para modelos multi-tarea, utilizando un enfoque latente. Se centra en optimizar diseños que pueden manejar eficientemente múltiples objetivos simultáneamente.
Esta investigación explora la aplicación de redes neuronales profundas en el análisis de supervivencia, empleando un marco multi-tarea. El enfoque tiene como objetivo mejorar la predicción y el modelado de datos de tiempo hasta el evento mediante el aprovechamiento de arquitecturas complejas de redes neuronales.
O LiME (Lightweight Mixture of Experts) propõe uma nova abordagem para MoE-PEFT, utilizando modulação leve de um único módulo PEFT compartilhado em vez de adaptadores separados por especialista. Isso reduz significativamente os parâmetros, introduz roteamento de parâmetros zero e generaliza para qualquer método PEFT, superando as limitações de escalabilidade e aplicabilidade.
El artículo presenta PEML, un método para el aprendizaje multi-tarea eficiente en parámetros con prompts continuos optimizados para Grandes Modelos de Lenguaje. Aborda las deficiencias de los métodos PEFT existentes como LoRA y Prefix Tuning, permitiendo un ajuste fino más eficiente para múltiples tareas y facilitando la consolidación de recursos.
El desaprendizaje automático generalmente se centra en configuraciones de tarea única, pero los modelos de IA modernos a menudo operan en entornos multitarea con estructuras compartidas, lo que causa interferencia no intencionada al eliminar datos. Este artículo introduce el desaprendizaje multitarea, proponiendo un marco consciente de la interferencia que utiliza proyección de gradiente sensible a la tarea para abordar las interferencias a nivel de tarea y de instancia.