כתבה
arXiv cs.AI ·
לקראת פרמטריזציה של תצורת תקופה למודלי שפה גדולים
Towards Evolving Context Parameterization for Large Language Models
אנו מציגים פרמטריזציה של תצורת תקופה למודלי שפה גדולים, המאפשרת להם לשמור תצורות תקופה באופן רשום. השיטה שלנו, PLUME, מקבלת תצורות תקופה ומשמר אותן באופן רשום, ומאפשרת למודלים לשמור תצורות תקופה באופן רשום. השיטה שלנו, PLUME, מקבלת תצורות תקופה ומשמר אותן באופן רשום, ומאפשרת למודלים לשמור תצורות תקופה באופן רשום.
תקציר מקורי באנגליתarXiv:2609.14168v1 Announce Type: cross Abstract: Context parameterization enables large language models (LLMs) to internalize contexts into reusable model parameters, avoiding repeated processing across subsequent queries. However, existing methods typically assume static contexts and lack explicit mechanisms for distinguishing validity states under continual updates. To study this real-world scenario, we formalized the Memory Updating with Sequential Evolution (MUSE) task and constructed MUSE-bench to evaluate update incorporation and unaffected-information preservation. The resulting challenge requires preserving the global state while adjusting the contribution of memory evidence. Motivated by this, we proposed PLUME, a training-free method that constructs a global update representatio
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית