Introducing AutoMuon, a one line drop in for AdamW [P]

AutoMuon, ein neues Python-Paket, ermöglicht die nahtlose Nutzung des Muon-Optimierers als Ersatz für AdamW in PyTorch-Trainingspipelines. Es scannt das Modell, um automatisch den passenden Optimierer für jeden Parameter anzuwenden, wobei Muon für Gewichtsmatrizen und AdamW für andere Komponenten verwendet wird.