יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

PACE: אכיפת יכולות תוך שמירה על מוצא

PACE: Provenance-Aware Capability Enforcement for Tool-Using LLM Agents
PACE היא שיטה לאכיפת יכולות תוך שמירה על מוצא, המיועדת לסוכנים של מודלי שפה גדולים. היא מאפשרת לוודא שהסוכנים מבצעים פעולות בטוחות ומורשות. PACE נבדקה על סוכנים שונים והראתה תוצאות טובות במניעת התקפות.
תקציר מקורי באנגליתarXiv:2610.01349v1 Announce Type: cross Abstract: Tool-using large language model (LLM) agents turn generated text into real side effects, so poisoned tool metadata, retrieved pages, memory, and reusable skills can steer the next call. Vetting an artifact before admission does not settle this. A safe variant and a leaking variant can produce the same admission evidence, and a sound gate then cannot relax that site for either. We make that condition precise, which leaves the last boundary a deployment can still act on. We present Provenance-Aware Capability Enforcement (PACE), which mediates every tool call immediately before it executes. Path confinement proposes an executable cut of represented influence paths, while capability and effect verification checks schema-defined effects against
קרא במקור המקורי