heapsort
ARTICLE↑ trending41

GBNF grammar tweak for faster Qwen3.6 35B-A3B and Qwen3.6 27B

Reddit r/LocalLLaMA·27 de abril de 2026
GBNF grammar tweak for faster Qwen3.6 35B-A3B and Qwen3.6 27B

Este contenido detalla una optimización de la gramática GBNF para los modelos Qwen3.6 35B-A3B y 27B, lo que resulta en un rendimiento mejorado para la codificación y la resolución de rompecabezas. Las pruebas en una configuración RTX 5090 con llama.cpp mostraron una mejora significativa, especialmente para el modelo 35B-A3B.

Leer original