NEWSDEV.to AI·hace 16d
ModelBest Drops BitCPM-CANN: First 1.58-bit LLM on Ascend 910B
ModelBest lanzó BitCPM-CANN, el primer LLM ternario de 1,58 bits entrenado de principio a fin en NPUs Ascend 910B. El modelo usa 6 veces menos VRAM que BF16, manteniendo la mayor parte de su capacidad, y está disponible en cuatro tamaños de código abierto.
27