כתבה
arXiv cs.AI ·
FOCUS: דחיסת הקשר ללא אימון
FOCUS: Training-Free Decision-Preserving Context Compression for LLM Agents
FOCUS היא שיטה חדשה לדחיסת הקשר ללא אימון, המאפשרת לסוכנים LLM לשמור על החלטותיהם ללא דרישה לנתונים נוספים. השיטה מותאמת למודלים שונים, כולל LLaMA, ומשפרת ביצועים.
תקציר מקורי באנגליתarXiv:2609.37590v1 Announce Type: new Abstract: LLM agents accumulate interaction histories that grow linearly with task length, causing quadratic inference cost scaling and performance degradation from attention dilution. Existing context-compression methods learn what to discard offline: by contrastively optimizing guidelines, distilling compressors, or training compression policies. This incurs a substantial cost. Further, the compression policy is learned a priori and is not dynamically conditioned on the evolving test-time trajectories. In this paper we ask a complementary question: Which past interactions causally shape the agent's future decisions? We recast context compression as a causal decision preservation problem over discrete interaction units and introduce FOCUS, a training-
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית