heapsort
ARTICLE↑ trending41

Uploaded Unsloth Qwen3.6-35B-A3B UD XL models with MTP grafted, here are the results

Reddit r/LocalLLaMA·6 de mayo de 2026

Esta publicación informa los resultados de la versión 35B A3B de los modelos Qwen3.6-35B-A3B UD XL con MTP injertado, ahora disponibles en HuggingFace. Las pruebas iniciales mostraron ganancias de velocidad limitadas (6% para Q4, 2.5% para Q8) en algunas configuraciones, aunque otros usuarios reportaron mejoras más significativas (hasta el 50%) dependiendo de su hardware.

Leer original