NEWSDEV.to AI·vor 16T
ModelBest Drops BitCPM-CANN: First 1.58-bit LLM on Ascend 910B
ModelBest hat BitCPM-CANN veröffentlicht, das erste 1,58-Bit ternäre LLM, das auf Ascend 910B NPUs trainiert wurde. Dieses Modell benötigt 6-mal weniger VRAM als BF16 bei minimalem Kapazitätsverlust und ist in vier Open-Source-Größen erhältlich.
27