יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

אני לא מחסיר אותך, אבל אני כן: אמינות ההסבר העצמי של חסרונם של מודלים ויז'ואלי-לשוניים

I Don't Miss You, but I Do: Self-Explanation Faithfulness of Modality Missingness in Vision-Language Models
חוקרים בדקו את היכולת של מודלים ויז'ואלי-לשוניים להסביר כיצד היעדרות מידע מסוים משפיעה על החיזויים שלהם. התוצאות הראו כי המודלים נוטים להעריך יתר על המידה את המידע הזמין ולהעריך פחות מדי את השפעת המידע החסר. המחקר מצביע על חשיבות הבדיקה העצמית של המודלים.
תקציר מקורי באנגליתarXiv:2609.07596v1 Announce Type: new Abstract: Vision-language models are increasingly used in settings where some input modalities may be unavailable, yet we know little about whether they can faithfully explain how such missing information affects their own predictions. We introduce an interventional protocol for evaluating self-explanations of modality dynamics: models state what each modality alone would support, whether restoring a missing modality would change their answer, and whether the available evidence is sufficient; we then execute the corresponding modality intervention and compare these claims with the model's realized behavior. We evaluate eight open-weight VLMs from two model families across four tasks spanning complementary and isomorphic text-image settings and a multi-
קרא במקור המקורי