local setup

로컬 LLM 셋업 가이드 (v16)

Esta guía detalla cómo configurar y ejecutar Modelos de Lenguaje Grandes (LLMs) localmente, especificando los requisitos de hardware como una GPU NVIDIA y RAM suficiente, y comparando frameworks como llama.cpp y Ollama. Proporciona instrucciones paso a paso para la instalación de llama.cpp y la ejecución de un modelo con aceleración de GPU.