DOC↑ trending43
2.5x faster inference with Qwen 3.6 27B using MTP - Finally a viable option for local agentic coding - 262k context on 48GB - Fixed chat template - Drop-in OpenAI and Anthropic API endpoints
Reddit r/LocalLLaMA·6 de maio de 2026
Este conteúdo detalha como obter inferência 2.5x mais rápida com Qwen 3.6 27B usando suporte MTP no llama.cpp, atingindo 28 tok/s em um M2 Max. Ele fornece arquivos GGUF convertidos para download, adequados para codificação agentic local com 262k de contexto em 48GB.
Ler original ↗