[New Optimizer] 🌹 Rose: low VRAM, easy to use, great results, Apache 2.0 [P]

Ein neuer PyTorch-Optimierer namens 'Rose' wurde veröffentlicht, der geringen VRAM-Verbrauch, schnelle Konvergenz und exzellente Generalisierung verspricht und unter Apache 2.0 lizenziert ist. Über mehrere Jahre entwickelt, soll er benutzerfreundlich und speichereffizienter als 8-bit AdamW sein.