A Deep Dive into Calibration of Language Models: Platt Scaling, Isotonic Regression, Temperature Scaling

Ce contenu explore trois méthodes post-hoc – Platt Scaling, Isotonic Regression et Temperature Scaling – conçues pour améliorer la calibration des modèles de langage. Ces techniques visent à réduire l'écart entre la confiance prédite par un modèle et sa précision réelle.