כתבה
arXiv cs.AI ·
הבנה ומיתון תלות יתר בזמן הסקה
Understanding and Mitigating Inference-Time Overreliance Using Agentic Memory
חוקרים גילו כי זיכרון אגנטי יכול להוביל לתלות יתר בזמן הסקה. הם הציעו את MEMTRIM, פריימוורק שמסיר ראיות חוזרות או סותרות ושומר על מידע שימושי. MEMTRIM יכול לשמש עם מערכות זיכרון מבוססות אימוג'ינג או מבנה.
תקציר מקורי באנגליתarXiv:2610.07311v1 Announce Type: new Abstract: Agentic memory allows LLM agents to reuse past experience, yet retrieved memories can also distort inference even when they are benign, correctly stored, and appropriately retrieved. We study this failure mode, which we call memory over-reliance. Across benchmarks and memory architectures, we find that memory is useful when past experience transfers to the current task, but can become misleading when only part of the evidence transfers. Failures are strongest under partial query-memory overlap, a pattern further confirmed by controlled experiments thatvary the amount of overlapping evidence. Motivated by this finding, we propose MEMTRIM, a plug-and-play framework that indexes memory evidence at write time and controls its reuse at read time.
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית