RESEARCHarXiv CS.LG·22d atrás
AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices
Este trabalho investiga o consumo de tempo, tokens e energia de agentes de IA baseados em LLMs implantados localmente em dispositivos de consumo. Ele revela que, embora os agentes locais resolvam problemas de privacidade e custo, seu raciocínio iterativo e uso de ferramentas aumentam substancialmente o consumo de recursos, resultando em maior drenagem de bateria e uso da GPU.
28