Confidence Calibration

2 items

RESEARCHDEV.to AI·10/05/2026

Distillation that keeps confidence honest

La distillation en-politique (OPD) traditionnelle conduit les petits modèles étudiants à un excès de confiance, car le modèle enseignant a accès à un contexte privilégié. De nouvelles recherches formalisent ce décalage et proposent le CaOPD pour corriger cette illusion de certitude sans sacrifier les gains de précision.

Confidence Calibration distillation model training machine learning

RESEARCHarXiv CS.AI·il y a 14j

Confidence Calibration in Large Language Models

Cette étude examine la calibration de la confiance des Grands Modèles de Langage (LLMs) sur diverses tâches, révélant que les LLMs actuels sont trop sûrs d'eux sur les tests difficiles et sous-confiants sur les tests faciles. Les chercheurs ont développé LifeEval, un nouveau test pour évaluer la calibration des modèles à travers différents niveaux de difficulté.

Confidence Calibration Overconfidence machine learning large language models