כתבה
arXiv cs.LG ·
דגימה עצבית קבועה במרחבים דיסקרטיים
Fixed-point neural samplers on discrete spaces
דגימה מעצבית קבועה למרחבים דיסקרטיים היא בעיה מאתגרת. המחברים מציגים אלגוריתם חדש, Discrete Gibbs Iterative Neural Sampler, המאפשר למידה יעילה ומקטינה את הסיכון לקריסת מצב. האלגוריתם מבוסס על תהליך הספיגה המסומן ומאפשר העברה בין התפלגויות.
תקציר מקורי באנגליתarXiv:2610.01739v1 Announce Type: new Abstract: Sampling from discrete, unnormalized distributions without access to data is a challenging problem. Neural samplers offer a promising approach by training generative models from density evaluations directly. Despite recent progress, existing discrete neural samplers are prone to mode collapse, come without convergence guarantees when trained via fixed-point iterations, and are often tied to a specific reference process such as masked or uniform diffusion. In this work, we introduce Discrete Gibbs Iterative Neural Sampler, a fixed-point neural sampler that addresses these limitations, enabling efficient, scalable learning, substantially reducing mode collapse in practice. Our framework builds on masked diffusion and also extends to transport b
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית