optimizer

2 items

NEWS↑ trendingReddit r/MachineLearning·24/4/2026

[New Optimizer] 🌹 Rose: low VRAM, easy to use, great results, Apache 2.0 [P]

Se ha lanzado un nuevo optimizador de PyTorch llamado 'Rose', que promete bajo uso de VRAM, convergencia rápida y excelente generalización, bajo licencia Apache 2.0. Desarrollado durante varios años, busca ser fácil de usar y más eficiente en memoria que AdamW de 8 bits.

deep learning machine learning VRAM Optimization optimizer

NEWS↑ trendingReddit r/MachineLearning·26/4/2026

Introducing AutoMuon, a one line drop in for AdamW [P]

Se ha lanzado AutoMuon, un paquete de Python que permite usar el optimizador Muon como reemplazo directo de AdamW en PyTorch. Escanea el modelo para aplicar automáticamente el optimizador correcto a cada parámetro, utilizando Muon para matrices de peso y AdamW para otros componentes.

deep learning optimizer python-package PyTorch