DOCDEV.to AI·15d atrás
Running Local LLM - 0$ Personal Agentic AI Assistant - Part 3
Este artigo, a terceira parte de uma série, aborda os desafios práticos de executar LLMs locais em um servidor de nuvem gratuito (Oracle ARM) sem GPU. Ele explora limitações como RAM, espaço em disco e velocidade de inferência da CPU, sugerindo uma abordagem híbrida.
29