Sparse Memory Finetuning

Sparse Memory Finetuning as a Low-Forgetting Alternative to LoRA and Full Finetuning

Sparse Memory Finetuning (SMF) aborda o esquecimento catastrófico em modelos de linguagem pré-treinados, atualizando apenas um pequeno subconjunto de linhas de memória. Experimentos demonstram que o SMF melhora o desempenho em uma tarefa de exame médico, mitigando substancialmente o esquecimento em comparação com LoRA e o ajuste fino completo.