יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

שליטה במצב הגבולי לאג'נטים של דגימות שפה: עמידה בזמן התקבלות תחת שינויי מצב

Boundary-State Control for Tool-Using Language-Model Agents: Commit-Time Consistency under State Drift
במאמר זה נחקרה שליטה במצב הגבולי של אג'נטים של דגימות שפה, והוצגה טכניקה לשימור עמידה בזמן התקבלות תחת שינויי מצב.
תקציר מקורי באנגליתarXiv:2609.37475v1 Announce Type: new Abstract: Tool-using language-model agents can decide that an action is permissible and execute it only after security-relevant state has changed. We study this proposal-to-commit gap and introduce BSC-R, a deterministic effect-boundary mechanism that binds a single-use commit authorization to the exact action and to a semantic projection of the authorization state that justified it. On 2,847 attacked AgentDojo episodes, the boundary kernel preserves the unprotected agent's behavior exactly (80.576% utility; 1.616% attack success). On 10,302 frozen proposals, it accepts every unchanged commit and rejects every instance of ten prospectively specified changed or replayed classes. In an independently generated boundary-drift experiment, full joint binding
קרא במקור המקורי