כתבה
arXiv cs.AI ·
גאומטריה משותפת כאבן רוזטה: התאמה מודלית-מודלית ללא נתוני זוגיות
Shared Geometry As A Rosetta Stone: Cross-Modal Alignment Without Paired Data
במאמר זה, המחברים מציגים שיטה חדשה להתאמה מודלית-מודלית ללא נתוני זוגיות. השיטה, הנקראת Wasserstein Procrustes, משתמשת בגאומטריה משותפת כאבן רוזטה כדי להתאים שני קבוצות ניתוחי-מודלים שאינן זוגיות. המחברים מציגים תוצאות שונות שמדגימות את יעילות השיטה.
תקציר מקורי באנגליתarXiv:2610.09411v2 Announce Type: replace-cross Abstract: Multimodal representations enable zero-shot classification and retrieval, but aligning independently trained models usually requires large amounts of paired data. Yet, the Platonic Representation Hypothesis suggests that models trained on different modalities may converge spontaneously toward a shared representation geometry. But then, do we even need paired examples for cross-modal alignment? Remarkably, we show that paired examples are unnecessary for coarse cross-modal alignment. Our simple Wasserstein Procrustes method with a coarse geometric initialization aligns two disjoint embedding sets by estimating a single orthogonal map without seeing any pairs. Across datasets, modalities, and unimodal models, we show that we can consi
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית