כתבה
arXiv cs.CL ·
ReFold: רפולד - רכיבה חדשה לפיתוח מודלי LLM לזיכרון ארוך
ReFold: Training-Free Reversible Inter-Turn Context Folding for Long-Horizon Agents
ReFold היא רכיבה חדשה שמאפשרת פיתוח מודלי LLM לזיכרון ארוך באופן חד-פעמי, ללא צורך בלמידה. היא מסוגלת לשמור את ההיסטוריה של המודל ולהפחית את צריכת הסמנים בעד 2.5 פעמים.
תקציר מקורי באנגליתarXiv:2610.07863v1 Announce Type: new Abstract: Long-horizon LLM agents act on an append-only interaction history that is re-sent to the model at every step, so the context and its cost grow with steps until the sessions exceed the context window. Existing methods manage the context through context requirement prediction, relying on additional model calls, heuristic rules, or trained policies. However, these predictive approaches introduce runtime overhead, invalidate prefix caches, and permanently discard content with no guarantee of recovery. To overcome these limitations, we introduce ReFold: a training-free rendering layer that preserves the underlying interaction history while compressing only the model's rendered context. It removes two kinds of inter-turn redundancy without an auxil
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית