GPU memory

96. LoRA: Fine-Tune a Billion-Parameter Model on a Laptop

El artículo explica cómo la técnica LoRA (Low-Rank Adaptation) permite el ajuste fino de modelos de lenguaje de miles de millones de parámetros en hardware de consumo, como laptops. En lugar de actualizar todos los parámetros, LoRA añade pequeños módulos entrenables, reduciendo drásticamente los requisitos de memoria de GPU.