consumer devices

AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices

Ce travail étudie la surcharge de temps, de jetons et d'énergie des agents d'IA basés sur des LLM déployés localement sur du matériel grand public. Il révèle que, bien que les agents locaux répondent aux préoccupations de confidentialité et de coût, leur raisonnement itératif et l'utilisation d'outils augmentent considérablement la consommation de ressources, entraînant une consommation GPU et une décharge de batterie plus importantes.