How to Deploy Llama 3.2 with vLLM + Batch Processing on a $8/Month DigitalOcean Droplet: Asynchronous Inference at 1/125th Claude Cost

Este artigo oferece um guia detalhado sobre como implantar o Llama 3.2 com vLLM e processamento em lote em um Droplet de baixo custo da DigitalOcean. Ele demonstra como obter inferência assíncrona a custos significativamente mais baixos em comparação com APIs de IA comerciais como Claude, processando mais de 10.000 tokens por segundo por US$ 8/mês.