Calibrated Preference Learning: The Case of Label Ranking

Este artigo formaliza a calibração para o ranqueamento probabilístico de rótulos, introduzindo uma hierarquia de noções para ranqueamentos completos, sub-ranqueamentos e top-k. Empiricamente, modelos populares de ranqueamento de rótulos são frequentemente mal calibrados, com implicações para modelos de recompensa RLHF.