כתבה
arXiv cs.AI ·
הוכחת שימוש: הפחתת הטרמיטינג של קריאות כלי באגנטים עמוקים
Proof-of-Use: Mitigating Tool-Call Hacking in Deep Research Agents
במאמר זה, נראה כיצד ניתן למנוע טרמיטינג של קריאות כלי באגנטים עמוקים. הפתרון, הקרוי 'הוכחת שימוש', מספק פרוטוקול של התקשרות צעדית, בו האגנטים חייבים לצטט זיהויים נורמליזציה של ראיות. נערכו ניסויים רבים, שהראו את יעילות הפתרון.
תקציר מקורי באנגליתarXiv:2510.10931v3 Announce Type: replace Abstract: While reinforcement learning (RL) enhances their ability to plan and reason across retrieval steps, we identify a critical failure mode in this setting: Tool-Call Hacking. Unlike execution-based tools (e.g., code or math), whose effects are directly observable, the weak observability of causal dependencies between retrieved evidence and reasoning under format- and outcome-level supervision enables agents to maximize surface-level reward signals without genuinely grounding their reasoning in the returned evidence. This leads to distinctive pathologies, including mode collapse via tool overuse and hallucinated tool usage where tool calls are largely decorative. To address this issue, we propose Proof-of-Use (PoU), an evidence grounded RL fr
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית