כתבה
arXiv cs.AI ·
מי הזה? זיהוי ואישור שימוש בדגימות רשומות מושגיות
Whose record is this? Diagnosing and authorizing record use in personalized multimodal models
במאמר זה נחקר זיהוי ואישור שימוש בדגימות רשומות מושגיות במודלים מודעים. המחברים חקרו את השימוש במודלי GPT-5 ו-Gemma-3-4B-IT
תקציר מקורי באנגליתarXiv:2609.04801v1 Announce Type: new Abstract: Contextualized visual personalization can retrieve a true record yet apply it to the wrong visual subject. We formalize when a record may condition an answer as \emph{record authorization}: subject presence ($P$), record-edge validity ($E$), and answer support ($S$) must all hold. We call violations visual memory misbinding (VMM). We construct RecordAuth-Diag, a 3,690-case matched diagnostic suite that changes one image--record edge while holding the query, question, record text, and image multiset fixed. Card removal and nonce relabeling attribute these failures to supplied records. Raw-bank failures span Qwen-, Phi-, and Gemma-family interfaces: Gemma-3-4B-IT reaches 63.69\% local unauthorized use at 25.75\% clean recall. CoViP remains at 2
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית