יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

הבגד האחורי חשף את העלויות של העולם שסביבו לאג'נט

The Backdrop Exposes What the World Around an Agent Costs It
במבחני אג'נטים, האג'נטים מוצבים בעולמות קבועים, אבל בעולם האמיתי, האג'נטים פועלים בסביבה דינמית. המחקר BACKDROP חוקר את העלויות של האג'נטים בסביבה דינמית. המחקר מצא שהאג'נטים רוכשים יכולת להתמודד עם טקסט מוזג, אבל רוב האג'נטים עדיין עוקבים אחר הוראות של אנשים אחרים.
תקציר מקורי באנגליתarXiv:2609.38469v1 Announce Type: cross Abstract: Agent benchmarks test agents in worlds that stay still. Deployed agents work in worlds that other people also change. Someone texts the agent to send the money elsewhere or an order confirmation asks it to reply with a door code. We present BACKDROP, which asks how much of an agent's capability in a clean world survives in such a world. BACKDROP takes a task along with the agents execution environment, and plants four everyday hazards in its world, one at a time and all together. The instruction and the correct end state stay the same. Each hazard asks one question. Authority: does a message from another person override the user? Injection: does text planted in a record redirect the agent? Boundary: does a request pull it into an app it was
קרא במקור המקורי