local setup

로컬 LLM 셋업 가이드 (v16)

Dieser Leitfaden erklärt, wie man große Sprachmodelle (LLMs) lokal einrichtet und ausführt, detailliert Hardware-Voraussetzungen wie eine NVIDIA GPU und ausreichend RAM, und vergleicht Frameworks wie llama.cpp und Ollama. Er enthält Schritt-für-Schritt-Anleitungen zur Installation von llama.cpp und zum Ausführen eines Modells mit GPU-Beschleunigung.