← heapsort-ai

consumer devices

1 items

RESEARCHarXiv CS.LG·vor 22T

AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices

Diese Arbeit untersucht den Zeit-, Token- und Energieaufwand von lokal auf Consumer-Hardware eingesetzten LLM-basierten KI-Agenten. Es zeigt sich, dass, obwohl lokale Agenten Datenschutz- und Kostenbedenken adressieren, ihre iterative Argumentation und Tool-Nutzung den Ressourcenverbrauch erheblich steigern, was zu höherem GPU-Stromverbrauch und Batterieentladung führt.

28