כתבה
arXiv cs.AI ·
הערכה ניסויית של התקפות הזרקת פרומפטים רב-מודאליים על מסגרות AI אגנטיות
An Experimental Evaluation of Multimodal Prompt Injection Attacks on Agentic AI Frameworks
MMPIBench הוא בנך' להערכת התקפות הזרקת פרומפטים רב-מודאליים על מסגרות AI אגנטיות. המחקר בודק כיצד התקפות אלו משפיעות על יכולת התכנון והפעולה של האגנטים. התוצאות מראות כי ההתקפות מצליחות בכ-1% מהניסויים, אך נעשות ניסיונות התקפה ב-12.8% מהמקרים.
תקציר מקורי באנגליתarXiv:2609.09404v1 Announce Type: cross Abstract: Agentic AI frameworks let a language model plan, keep memory, and call tools that reach real files, mail, and services. Most of these agents also read images, which gives an attacker a way to put text into the agent's context without going through the user. We present MMPIBench, a reproducible benchmark that measures what happens next. It delivers a fixed set of attacks through six visual carriers (OCR text, overlays, EXIF metadata, QR codes, fake interfaces, and hybrids) and records how far each injected instruction travels through the agent, from perception through planning to the tool call. Across 720 runs covering six frameworks, five foundation models, six carriers, and four attacker objectives, attacks complete in approximately 1% of
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית