Este trabalho investiga o consumo de tempo, tokens e energia de agentes de IA baseados em LLMs implantados localmente em dispositivos de consumo. Ele revela que, embora os agentes locais resolvam problemas de privacidade e custo, seu raciocínio iterativo e uso de ferramentas aumentam substancialmente o consumo de recursos, resultando em maior drenagem de bateria e uso da GPU.
Este curso aborda os fundamentos de codificação para executar Modelos de Linguagem Grandes (LLMs) tanto localmente quanto na nuvem. Ele é projetado para ensinar como implementar e gerenciar LLMs em diferentes ambientes operacionais.
Este é um guia prático para a implantação de LLMs locais, detalhando os requisitos de hardware, sistemas operacionais e instalações de pré-requisitos. Ele compara frameworks como llama.cpp, Ollama e vLLM para diferentes necessidades de desenvolvimento e desempenho.
Gemma 4 do Google, lançado em 2026 com licença Apache 2.0, é considerado o modelo aberto mais amigável para desenvolvedores. Ele pode ser executado localmente e substituir APIs, apesar de alguns bugs de formatação em uso como agente.
Este guia oferece passos práticos para configurar Grandes Modelos de Linguagem (LLMs) localmente em um sistema Linux, detalhando requisitos de hardware e benchmarks de desempenho. Ele compara frameworks como llama.cpp, Ollama, vLLM e LocalAI, recomendando llama.cpp com instruções de configuração para implantação de modelos.
Este guia amigável para iniciantes demonstra como executar a ferramenta de IA OpenClaw de forma segura localmente no Windows usando o Windows Sandbox. Aborda preocupações de segurança e oferece passos para configurar e solucionar problemas, sem a necessidade de infraestrutura complexa.