כתבה
arXiv cs.CL ·
CoEM: תכנון זיכרון לסיבוכיות רציפה עם Commit-on-Evidence Memory
CoEM: Empowering Long-Context Reasoning with Commit-on-Evidence Memory
CoEM: תכנון זיכרון לסיבוכיות רציפה עם Commit-on-Evidence Memory. המאמר מציג פתרון לבעיה של זיכרון רציף במודלי שפה. CoEM משתמש בזיכרון חדש, המאפשר לשמור פרטים חשובים לאחר כל פסק זמן. הפתרון נבחן במספר תרחישים והוכיח את יעילותו.
תקציר מקורי באנגליתarXiv:2609.36935v1 Announce Type: cross Abstract: Long-context reasoning is essential for complex and long-horizon tasks, yet the performance of large language models (LLMs) degrades as context length increases. Recent approaches address this by processing input chunk by chunk while maintaining a bounded textual memory in model context. However, premature information compression can discard critical details essential for subsequent reasoning. In this paper, we introduce Commit-on-Evidence Memory (CoEM), which learns when to convert source evidence into compact memory facts. Specifically, under a fixed context-memory budget, CoEM preserves potentially useful source excerpts verbatim in a pending set, allowing subsequent context to clarify their relevance before irreversible compression. As
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית