כתבה
arXiv cs.AI ·
זיכרון קפוא לא יספיק: חשוב מחדש על זיכרון חיצוני כפיצוח
Frozen Memory Is Not Enough: Rethinking External Memory as Extraction
במאמר זה, החוקרים חושבים מחדש על זיכרון חיצוני כפיצוח, ולא רק כפיצוח. הם מציעים פתרון לבעיית הזיכרון הקפוא, ומציעים דרך לשיפור השימוש בזיכרון חיצוני. הם גם מציעים דרך לשיפור השימוש בזיכרון חיצוני, על ידי שימוש בפיצוח.
תקציר מקורי באנגליתarXiv:2608.17050v3 Announce Type: replace-cross Abstract: Methods for improving knowledge use in large language models typically fall into two regimes. Non-parametric retrieval offers flexible access to external knowledge, but adds retrieval latency, context overhead, and only shallow integration with the backbone. Parametric adaptation is efficient at inference time, but entangles knowledge with model weights and can be hard to update, audit, or transfer. Engram-style hashed memory occupies a middle regime: it stores learned information in an external, addressable table, yet consumes that table through a small learned reader. This raises a basic question: when such a memory is moved across backbones, what matters more, the frozen memory itself or the target-side reader? We study this ques
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית