כתבה
arXiv cs.AI ·
לימוד יוצרי: העברת תרגול עצמי ללמידת התנהגות: התאמה של תפוצה כמתאימה
Bringing Generative Learning to Representation Learning: Self-Supervised Transfer Learning as Distribution Matching
אובייקטיב העצמי של למידה מתוכנת כהתאמה של תפוצה. המאמר עוסק בהעברת תרגול עצמי ללמידת התנהגות.
תקציר מקורי באנגליתarXiv:2502.14424v5 Announce Type: replace-cross Abstract: Most self-supervised learning objectives defend against collapse but leave the target representation law unspecified. We formulate representation learning as Distribution Matching (DM), learning an augmentation-invariant encoder whose induced law matches an explicit geometric reference. The reference law specifies what the learned representation distribution should look like, whereas a separately chosen discrepancy determines how deviations from this target are measured; here we use Mallows distance. The DM framework reveals a directional inverse: generative learning maps a tractable reference to data, whereas representation learning maps data to a designed reference law. We connect the population objective to class-centre separatio
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית