[New Optimizer] 🌹 Rose: low VRAM, easy to use, great results, Apache 2.0 [P]

Foi lançado um novo otimizador PyTorch chamado 'Rose', que promete baixo uso de VRAM, convergência rápida e excelente generalização, licenciado sob Apache 2.0. Desenvolvido ao longo de vários anos, ele visa ser fácil de usar e mais eficiente em memória do que o AdamW de 8 bits.