heapsort
RESEARCH↑ trending42

Updated Qwen3.5-9B Quantization Comparison

Reddit r/LocalLLaMA·14 de abril de 2026
Updated Qwen3.5-9B Quantization Comparison

Este contenido compara diferentes cuantificaciones GGUF del modelo Qwen3.5-9B, utilizando la Divergencia KL (KLD) para evaluar la fidelidad respecto a la línea base BF16. El objetivo es proporcionar a los usuarios una base de datos para elegir el archivo cuantificado más fiel, con puntuaciones KLD más bajas que indican una menor pérdida de información.

Leer original