יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

התאמת איבוד לחיזוי לאימון זרימה עמיד

Prediction--Loss Alignment for Sampler--Robust Flow Matching Training
חוקרים מציגים שיטה חדשה לאימון מודלים של זרימה עמידה. השיטה משלבת את האיבוד והחיזוי, ומאפשרת אימון יציב יותר. המחקר מראה כי השיטה החדשה משפרת את היציבות של האימון, ומאפשרת למודלים ללמוד בצורה טובה יותר.
תקציר מקורי באנגליתarXiv:2602.10420v4 Announce Type: replace Abstract: Recent work has popularized a practical recipe in diffusion and flow matching: predict the clean signal $x$, convert it to a velocity, and train through a velocity-space loss. The conversion contains a singular endpoint amplification and therefore appears prone to unstable optimization, yet recent systems obtain strong empirical results with this recipe. We investigate this tension through the integrability of the pre-optimizer stochastic-gradient second moment. Under stated initialization conditions, the moment diverges under Uniform sampling; boundary-suppressing sampling can restore integrability under an additional upper-growth condition. We then show that prediction--loss alignment eliminates this conversion-induced source of non-int
קרא במקור המקורי