Position: Uncertainty Quantification in LLMs is Just Unsupervised Clustering

Este artigo argumenta que os métodos atuais de Quantificação de Incerteza (UQ) para LLMs são, na verdade, algoritmos de agrupamento não supervisionado, medindo a consistência interna das gerações do modelo em vez da correção externa. Consequentemente, esses métodos falham em detectar "alucinações confiantes" e podem criar uma falsa sensação de segurança na implantação de LLMs em domínios de alto risco.