What in tarnation is going on with the cost of compute

Der Autor äußert Überraschung und Frustration über den drastischen und anhaltenden Anstieg der Server-GPU-Preise (H100/H200/B200) auf Plattformen wie Vast und Mithril, die über 1.000 US-Dollar pro Stunde erreichen. Er argumentiert, dass dies für Akademiker und Startups unerschwinglich ist und die Entwicklung seiner Projekte, wie einer BitNet-Pipeline für die localLlama-Community, behindert.