יום שני, 5 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

אבטחת סוכנים מחשביים נגד התקפות כיוון ענפים

Securing Computer-Use Agents Against Branch Steering Attacks
חוקרים פיתחו ארכיטקטורה חדשה לאבטחת סוכנים מחשביים נגד התקפות כיוון ענפים. המחקר מציג את STEER-Bench, בנך לבדיקת התקפות, ואת COBRA, ארכיטקטורה שמונעת התקפות על ידי הגבלת פרמטרים ויעדים.
תקציר מקורי באנגליתarXiv:2610.03089v1 Announce Type: cross Abstract: Modern Computer Use Agents (CUAs) directly interact with graphical user interfaces and execute third-party web tools, exposing them to indirect prompt injection across every rendered page and tool response. While the Dual-LLM pattern is the primary system-level architecture offering formal security guarantees - using an isolated Planner LLM (P-LLM) to fix execution paths before processing untrusted inputs via a Quarantined LLM (Q-LLM) - these guarantees break down in graphical environments. Because CUA interaction is inherently dynamic, plans cannot remain data-independent; they must branch based on anticipated runtime web content - covering all possible cases the agent may encounter. This exposes agents to branch steering attacks, where an
קרא במקור המקורי