כתבה
arXiv cs.CL ·
חלוקת משאבי מחשב ל-LLMs העונים לעצמם: מעמדת-עומק לבנדיטים רב-זרוע
Compute Allocation for Self-Evolving LLMs: From Depth-Breadth to Multi-Armed Bandits
חלוקת משאבי מחשב ל-LLMs העונים לעצמם: חידוש זה עוסק באופטימיזציה של חלוקת משאבי מחשב ל-LLMs העונים לעצמם, כדי לשפר את יעילותם. המחברים חקרו כיצד לחלק תקציב קבוע של קריאות LLM, וכיצד להבטיח שאחד הריצות יגיע למספרים שהוצגו. הם הציגו את BaSE (Bandit-based Self-Evolving), מודל שמחלק קריאות LLM בין רצפי ריצה נפרדים.
תקציר מקורי באנגליתarXiv:2605.29268v3 Announce Type: replace Abstract: LLM-guided evolutionary search (Evolve systems) has reached state-of-the-art results on mathematical and combinatorial tasks, yet most existing systems report only the best of many runs and leave the run-to-run distribution undocumented. We ask how a fixed budget of LLM calls should be allocated, and how reliably a single run reaches the reported numbers. Sweeping the depth-breadth grid over five models and three tasks, we identify two empirical regularities: a fitness-compute envelope along which capability ordering largely collapses when measured in effective FLOPs, and a bilinear depth-breadth fit with task-specific interaction; both are gated by model-task capability. Motivated by these regularities, we propose BaSE (Bandit-based Self
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית