כתבה
arXiv cs.AI ·
CollageAttack: פגיעה בתכונות ההתאמה הבין-תחומיות של מודלי T2I דרך רכיבת טקסט סטטי
CollageAttack: Exploiting Cross-Modal Alignment Flaws in T2I Models through Spatial Text Composition
CollageAttack הציגה פגיעה בתכונות ההתאמה הבין-תחומיות של מודלי T2I דרך רכיבת טקסט סטטי. המחקר מציע פגיעה אוטומטית של פגיעה במודלי T2I, ומציע פגיעה חדשה של פגיעה במודלי T2I.
תקציר מקורי באנגליתarXiv:2609.38253v1 Announce Type: cross Abstract: Text-to-image (T2I) models have substantially improved in language understanding, in-image text rendering, and visual composition, while their safety mechanisms do not always keep pace with these capabilities. This creates a cross-modal attack surface in which harmful semantics can remain inconspicuous in a serialized prompt yet emerge through image-level composition. We propose CollageAttack, an automated single-prompt black-box jailbreak that shifts semantic assembly into the image plane by combining context-relevant scenes, scene-grounded textual carriers, and spatially distributed text fragments. Experiments across multiple open-weight and commercial T2I models show that CollageAttack achieves attack success rates of up to 86.0%, outper
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית