Performance Improvement

Aurora

Aurora ist ein Open-Source-RL-Framework, das entwickelt wurde, um spekulatives Dekodieren selbst zu verbessern, indem es von jeder bedienten Anfrage lernt. Es erzielt eine 1,25-fache Leistungssteigerung gegenüber gut trainierten statischen Spekulatoren.