כתבה
arXiv cs.LG ·
LIMBO: חקירה חייתית של זיכרון ותקציב בעת המשך
LIMBO: Lifelong Inference-Time Memory and Budget Optimization for LLM Agents
LIMBO משפר את זיכרון ותקציב המשך של סוגי סוכנים LLM. הפרויקט, LIMBO, פותח פרקטיקה חדשה של חקירה חייתית, שבה הזיכרון נחשב כמשאב שניתן לשלוט בו בעת המשך. LIMBO מצליח לשפר את תקציב המשך של סוגי סוכנים LLM, ומצליח להשיג תקציב נמוך יותר בעת המשך.
תקציר מקורי באנגליתarXiv:2609.14138v1 Announce Type: new Abstract: As LLM agents become integrated into increasingly complex workflows, they must continually acquire new capabilities while retaining competence on previously learned tasks. Lifelong agents address this through experience replay, injecting past interactions into the prompt to leverage prior experience during inference. However, replay is not free: every replayed trajectory competes with retrieval, reasoning, tool use, and verification for the same limited prompt and compute budget, making effective resource allocation essential. Existing approaches allocate these resources using fixed replay policies, regardless of whether replay is beneficial for the current task. We identify this as inference-time memory allocation, a distinct problem class f
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית