← heapsort-ai

Qwen3.6

4 items

ARTICLE↑ trendingReddit r/LocalLLaMA·5/7/2026

why llama.cpp can’t combine speculative decode methods?

Ein Benutzer untersucht, warum spekulative Dekodierungsmethoden wie MTP und N-gramm in llama.cpp nicht gleichzeitig kombiniert werden können, wobei N-gramm erhebliche Verbesserungen für das agentische Programmieren bietet. Er möchte wissen, ob dies eine grundlegende oder implementierungsbedingte Einschränkung ist, und stellt fest, dass andere dieselbe Frage bereits gestellt haben.

43
NEWS↑ trendingReddit r/LocalLLaMA·5/7/2026

Qwen3.6 27B uncensored heretic v2 Native MTP Preserved is Out Now With KLD 0.0021, 6/100 Refusals and the Full 15 MTPs Preserved and Retained, Available in Safetensors, GGUFs and NVFP4s formats.

Das Sprachmodell Qwen3.6 27B uncensored heretic v2 Native MTP Preserved wurde veröffentlicht und weist einen KLD von 0.0021 sowie nur 6 Ablehnungen von 100 auf. Es ist in verschiedenen Formaten wie Safetensors, GGUFs und NVFP4s verfügbar, wobei alle 15 MTPs vollständig erhalten und beibehalten wurden.

42
ARTICLE↑ trendingReddit r/LocalLLaMA·vor 25T

Need a second pair of eyes, this Qwen3.6 27B quant recipe consistently thinks less and is correct

Der Autor untersucht, warum ein spezifisches Qwen3.6 27B INT8 Autoround Quantisierungsrezept andere übertrifft, wobei er beobachtet, dass das Modell weniger "denkt", aber bessere Ergebnisse in Benchmarks liefert. Er replizierte diese Leistung dann mit einer neuen GGUF-Quantisierung und stellte fest, dass beide durchweg schneller zu Antworten kommen als UD Q8 K XL.

42
ARTICLE↑ trendingReddit r/LocalLLaMA·vor 19T

Qwen3.6 35Ba3 has changed my workflows and even how I use my computer

Der Autor beschreibt, wie das KI-Modell Qwen3.6 35Ba3 seine Entwicklungsabläufe und die Computernutzung grundlegend verändert hat, indem es ihm ermöglicht, komplexe Aufgaben zu automatisieren und mit dem Betriebssystem mittels natürlicher Sprache zu interagieren. Diese Transformation erlaubt es, Aufgaben wie DevOps, Inhaltserstellung und Codetests an die KI zu delegieren, was eine signifikante Produktivitätssteigerung verdeutlicht.

42