כתבה
arXiv cs.CL ·
עומק זיכרון ורוחב הקשר המשוחזר
Memory Depth and Reconstructed Context Width: A Controlled Evaluation of Hierarchical Retrieval
חוקרים בודקים את היחס בין עומק זיכרון לרוחב הקשר במערכות LLM. הם מוצאים כי הגדלת רוחב ההקשר משפרת דיוק, אך הגדלת עומק הזיכרון אינה מובילה לשיפור מונוטוני. הניסויים בוצעו עם EverMemBench וכללו מודלים עם עומק D1-D4 ותקציבי ליבה של 1,024/2,048/4,096 תווים.
תקציר מקורי באנגליתarXiv:2610.08300v1 Announce Type: new Abstract: Long-term conversational memory is becoming an integral component of modern LLM systems. Proposed architectures group records by topics and events, construct hierarchies and graphs, and connect facts through causal and temporal relations. We experimentally study the interaction between two memory parameters: structural depth and the width of context supplied to the answer model. Using EverMemBench, we evaluate depths D1-D4, core budgets of 1,024/2,048/4,096 tokens, and additional Production and Oracle conditions up to the full archive. Increasing width from 1K to 4K improves Accuracy by 10.11-17.98 percentage points, whereas increasing depth provides no monotonic gain. Beyond 8-16K, Production performance reaches a plateau while tokens per co
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית