heapsort
ARTICLE↑ trending41

Uploaded Unsloth Qwen3.6-35B-A3B UD XL models with MTP grafted, here are the results

Reddit r/LocalLLaMA·6. Mai 2026

Dieser Beitrag berichtet über die Ergebnisse der 35B A3B-Version der Qwen3.6-35B-A3B UD XL-Modelle mit MTP-Pfropfen, die jetzt auf HuggingFace verfügbar sind. Erste Tests zeigten begrenzte Geschwindigkeitsgewinne (6% für Q4, 2,5% für Q8) bei einigen Setups, obwohl andere Benutzer je nach Hardware deutlichere Verbesserungen (bis zu 50%) meldeten.

Original lesen