LocalForge: I built a self-hosted LLM control plane with intelligent routing and LoRA finetuning

L'auteur a créé LocalForge, un plan de contrôle IA auto-hébergé qui simplifie l'exécution des LLM locaux dans des applications réelles. Il expose un point de terminaison compatible OpenAI et gère le cycle de vie du modèle, le routage intelligent, la mémoire et le finetuning LoRA.