כתבה
arXiv cs.CL ·
CORE: שיפור תהליך ההיקש המרכיב במודלי MLLM
CORE: Improving Compositional Reasoning in MLLM Embedding via Reranker Distillation
CORE הוא אלגוריתם שמשפר את תהליך ההיקש המרכיב במודלי MLLM. הוא משתמש בררנקר כדי להעביר את הידע למודל האינקודינג. התוצאות מראות ש-CORE משפר את הביצועים במגוון מטלות.
תקציר מקורי באנגליתarXiv:2609.04083v1 Announce Type: cross Abstract: MLLM-based embedding models remain limited in compositional retrieval, often failing to distinguish scenes containing the same concepts but different attribute-object bindings. Yet the same backbone can resolve such distinctions when used as a cross-attentive reranker, motivating us to distill its compositional judgments into the embedding model. We propose CORE, which synthesizes candidate lists spanning five compositional matching levels and introduces a Rank-KL objective that trains the embedding model to reproduce the reranker's fine-grained ranking. We further introduce a graded evaluation protocol and compare contrastive learning, pairwise CoSENT, and listwise Rank-KL under the same data and tuning budget. Our comparison shows that bo
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית