כתבה
arXiv cs.AI ·
תיאור רגישות כוח לאלסטיות למטרות כוח
Characterizing Job Power Elasticity for Power-Flexible AI Training
במאמר זה, נבחן את רגישות העבודה לאלסטיות כוח לצורכי כוח רב-תכליתיים באימון LLM. נציג את ה- Power Flexibility Index (PFI), סקלה נורמלית שמתארת את העלות של קיצורי כוח ומספקת פרימיטיב ניהול SLA-מודע. נאסף נתונים מ-131 ריצות אימון LLM, כולל דגמי LLM צפופים ומורכבים, ומצאנו ש-LLM training jobs חווים רגישות כוח גבוהה, אך נורמלית. נציג גם כי PFI-aware power allocation מקסימיזה את כמות הטוקן/שנייה תחת תחומי כוח.
תקציר מקורי באנגליתarXiv:2609.11542v1 Announce Type: new Abstract: Large language model (LLM) training is among the fastest-growing sources of electricity demand in modern data centers, and power availability is a primary bottleneck to continued AI infrastructure growth. Making the power consumption of these workloads flexible could unlock additional power for AI growth, limit increases in electricity prices, and improve the utilization of existing grid infrastructure. However, to realize this flexibility, we must first understand how the performance of training workloads changes when GPU power is reduced. This paper presents the first systematic characterization of \emph{job power elasticity} (the sensitivity of throughput to power reductions) in LLM training. To quantify elasticity, we introduce the \emph{
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית