כתבה
arXiv cs.LG ·
דחיפה של אנצ'ור לצדקה בגאומטריה שלמה
Anchor Divergence for Semantic Geometry in Contrastive Learning
במאמר זה, החוקרים חקרו את האופן שבו הקשר הסמנטי משפיע על הגאומטריה של הייצוגים המלמדים. הם הציגו דחיפה של אנצ'ור לצדקה, שהיא שיטה לקבוע גאומטריות סמנטיות ספציפיות במרחב הייצוג. השיטה משתמשת בהתאמה בין למידה חומרתית, משפחות אקספוננציאליות וגאומטריה של מידע.
תקציר מקורי באנגליתarXiv:2610.06919v1 Announce Type: cross Abstract: This paper concerns how semantic context determines geometry in learned vector representations. Similarity is typically measured using cosine similarity, which provides a single fixed geometry. Semantic similarity, however, is inherently context dependent: two images may be similar because they depict the same object, share a visual style, or are relevant to the same clinical finding. We show that contrastive representations naturally encompass a family of geometries that can be specialized to particular semantic structure. The key idea is to use an interplay between contrastive learning, exponential families, and information geometry to establish a correspondence between probability distributions over "anchors" and Bregman geometries on th
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית