Stateless scheduler doubles LLM training speed

Das Feinabstimmen großer Sprachmodelle wird oft durch starre GPU-Zuweisung und ineffizienten Pipeline-Parallelismus gebremst. Ein neuer zustandsloser Scheduler, RoundPipe, optimiert das Training, indem er Rechenphasen dynamisch über einen Pool von GPUs verteilt und so die LLM-Trainingsgeschwindigkeit effektiv verdoppelt.