Improving Quantized Model Performance in Qualitative Analysis with Multi-Pass Prompt Verification

Este estudo investiga como diferentes níveis de quantização afetam o desempenho do LLaMA-3.1 na análise qualitativa, observando que modelos de baixo bit frequentemente produzem alucinações. Propõe um método de verificação de prompt multipasse para reduzir alucinações e melhorar a precisão ao filtrar conteúdo não confiável.