Entropy Regularization

A Comparative Theoretical Analysis of Entropy Control Methods in Reinforcement Learning

Cet article propose une analyse théorique comparative des stratégies de contrôle d'entropie en apprentissage par renforcement, comparant la régularisation traditionnelle et un nouveau mécanisme basé sur la covariance pour l'entraînement des LLM. Il établit un cadre unifié, montrant que les méthodes basées sur la covariance atteignent une impartialité asymptotique en régularisant sélectivement, contrairement aux méthodes traditionnelles qui introduisent un biais persistant.