כתבה
arXiv cs.AI ·
מילים מפתח: חשיפת הרגישות האנרגטית של LLM בתכנות מכשירים
Keyword Matters: Unveiling the Energy Sensitivity of On-Device LLM Prompting
מחקר חדש בודק את הקשר בין עיצוב פרומפטים לביצועים אנרגטיים של מודלים גדולים. התוצאות מראות כי פרומפטים מעוצבים היטב יכולים לחסוך אנרגיה.
תקציר מקורי באנגליתarXiv:2607.22568v1 Announce Type: new Abstract: Large Language Models (LLMs) are increasingly deployed on mobile and embedded devices to improve privacy and reduce network latency. Yet on-device inference faces a fundamental constraint: high energy consumption on battery-powered, resource-limited hardware. While model compression and runtime acceleration have been widely studied, the effect of \emph{prompt design} on energy efficiency remains underexplored. This paper presents an empirical study of the relationship between prompt wording and energy consumption for on-device LLMs. Using real power measurements collected on a smartphone, we quantify how linguistic features, particularly imperative keywords and instruction structure, affect decoding length and total energy. Our results show c
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית