יום שישי, 9 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

סימנים ראשונים של הזכירה בדגמי התפשטות דרך גאומטריה של בקעים ודנואיז ציקלי

Early Signatures of Memorization in Diffusion Models via Basin Geometry and Cyclic Denoising
נמצאו סימנים ראשונים להזכירה בדגמי התפשטות, דרך חקירת גאומטריה של בקעים ודנואיז ציקלי. ניתן לגלות הזכירה עוד לפני שהדגם מפיק תמונות דומות.
תקציר מקורי באנגליתarXiv:2610.11670v1 Announce Type: new Abstract: Diffusion models generalize early in training and later reproduce individual training samples. Standard tests detect memorization only once one-shot generation produces near-copies, leaving a released model unaudited until its outputs fail. We show that memorization is encoded in the geometry of the learned energy landscape before it appears in generated samples, a state we call latent memorization. Using score divergence and basin volume, we find that localized basins form around training samples and separate them from held-out samples before the first memorized sample appears, with an onset that follows the same $O(n)$ scaling as the memorization time. We probe these basins with cyclic denoising, which repeatedly applies partial noising and
קרא במקור המקורי