← heapsort-ai

local setup

1 items

DOCDEV.to AI·16d atrás

로컬 LLM 셋업 가이드 (v16)

Este guia detalha como configurar e executar Modelos de Linguagem Grandes (LLMs) localmente, especificando os requisitos de hardware, como GPU NVIDIA e RAM, e comparando frameworks como llama.cpp e Ollama. Inclui instruções passo a passo para a instalação do llama.cpp e a execução de um modelo com aceleração de GPU.

28