יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

התייצוג על ידי תכנון בדיפוזיה: התאמה צד-צד של טוקן-קלאס בטרנספורמרים

Representation by Design in Generation: Cross-View Class-Token Alignment in Diffusion Transformers
מאמר זה עוסק בשיפור התייצוג של דיפוזיה בלי להפסיד באיכות הדיפוזיה. המחברים פיתחו שיטה חדשה שמשפרת את התייצוג על ידי התאמה צד-צד של טוקן-קלאס. השיטה נקראת SelfFlow והיא משתמשת בטכנולוגיית flow matching והתאמה של פטצ'ים.
תקציר מקורי באנגליתarXiv:2609.36348v1 Announce Type: cross Abstract: Generative and representation learning remain asymmetrically connected: semantic representations are used to improve diffusion generation, whereas the models' own representations are often treated as a by-product of synthesis. We ask whether diffusion models can instead be trained to learn substantially stronger semantic representations without sacrificing generation quality. SelfFlow takes a step in this direction by introducing self-supervised patch alignment into flow matching, but its main gains remain in faster convergence and improved generation. Inspired by DINO and iBOT, we extend this framework with cross-view class-token alignment to further strengthen semantic representations. Specifically, we form two independently noised, dual-
קרא במקור המקורי