כתבה
arXiv cs.AI ·
איזה תכונה של התמונה נושאת את הפריצה? התפתחות מבוקרת של פריצות תמונה-טקסט
Which Image Property Carries the Jailbreak? A Controlled Dissection of Image-to-Text Jailbreaks
חוקרים בוחנים גורמים של תמונה בארבעה משפחות של פריצות שפורסמו, על מודלי מודלי-מודלים.
תקציר מקורי באנגליתarXiv:2610.07009v1 Announce Type: cross Abstract: Image-to-text jailbreaks place harmful intent in text, image content, or the relationship between them. We examine image-side factors across four published attack families on a 313-prompt StrongREJECT slice, using five multimodal models and an additional appendix evaluation of InternVL3.5-8B. The harmful instruction is held constant across conditions; the baseline matrix uses one draw per prompt, and paired ablations use three draws with an automated rubric judge. A bare harmful query, with or without a benign unrelated image, produces little attack success on most victims, while attack images substantially increase it. First, per-tile entropy and JPEG size do not reliably distinguish attack tiles from size-matched benign distractors, limit
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית