Un usuario investiga por qué los métodos de decodificación especulativa como MTP y N-gram no pueden combinarse simultáneamente en llama.cpp, señalando que N-gram ofrece mejoras significativas para la codificación. Busca entender si es una limitación fundamental o de implementación, descubriendo que otros ya han planteado la misma pregunta.
El modelo de lenguaje Qwen3.6 27B uncensored heretic v2 Native MTP Preserved ha sido lanzado, con un KLD de 0.0021 y solo 6 rechazos de cada 100. Está disponible en formatos como Safetensors, GGUFs y NVFP4s, manteniendo las 15 MTPs preservadas y retenidas.
El autor investiga por qué una receta específica de cuantificación Qwen3.6 27B INT8 Autoround supera a otras, observando que el modelo "piensa" menos pero proporciona mejores resultados en los benchmarks. Luego replicó este rendimiento con una nueva cuantificación GGUF, señalando que ambas consistentemente obtienen respuestas más rápido que UD Q8 K XL.
El autor detalla cómo el modelo de IA Qwen3.6 35Ba3 ha transformado profundamente sus flujos de trabajo de desarrollo y el uso de su computadora, permitiéndole automatizar tareas complejas e interactuar con el sistema operativo mediante lenguaje natural. Esta transformación le permite delegar tareas como devops, creación de contenido y pruebas de código a la IA, destacando un cambio significativo en la productividad.