כתבה
arXiv cs.LG ·
קריסת מודל סלקטיבי במודלים דיפוזיים
Feature Selective Model Collapse in Diffusion Models: Total Replacement versus Fixed-Budget Training
חוקרים בודקים קריסת מודל סלקטיבי במודלים דיפוזיים. הם משווים בין החלפת נתונים אמיתיים בנתונים סינתטיים לבין אימון עם תקציב קבוע. התוצאות מראות כי ההחלפה גורמת לקריסה מהירה, בעוד האימון עם תקציב קבוע מונע קריסה חלקית.
תקציר מקורי באנגליתarXiv:2610.01318v1 Announce Type: new Abstract: Model collapse arises when generative models are trained on synthetic data produced by earlier models. The phenomenon has attracted considerable attention because of its societal and technical implications. However, previous studies have reached seemingly contradictory conclusions: replacing real data with synthetic data causes collapse (Shumailov et al.), yet accumulating real data alongside synthetic data can prevent it. For diffusion models, we study an intermediate regime typical of finite-budget pipelines: all past datasets and the real data are kept, but each new model is trained on a fixed-size sample from this growing pool, so the real fraction vanishes without any data being removed. Experiments on a 2D spiral dataset as well as the
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית