로컬 LLM 셋업 가이드 (v14)

Dieser Leitfaden (v14) beschreibt die Einrichtung lokaler LLMs, einschließlich Hardware-Anforderungen (RAM, VRAM), unterstützter Betriebssysteme und Systeminformationsprüfungen. Er vergleicht Frameworks wie llama.cpp, Ollama, vLLM und LocalAI und bietet eine Schritt-für-Schritt-Anleitung zur Installation von Abhängigkeiten, Kompilierung von llama.cpp, Herunterladen eines Modells und Ausführung eines Servers vor Ort.