כתבה
arXiv cs.AI ·
כלליות ב-VAE ובדגמי דיפוזיה: ניתוח מידע-תאורטי מאוניוורסל
Generalization in VAE and Diffusion Models: A Unified Information-Theoretic Analysis
במאמר זה, נציגים ניתוח מידע-תאורטי מאוניוורסל של כלליות בדגמי VAE ודיפוזיה. הניתוח נותן הבטחות לכלליות של האנקודר והגנרטור, ומאפשר גם ניתוח מדויק יותר של VAE, וכן ניתוח של DMs שמתאים לזמן הדיפוזיה T.
תקציר מקורי באנגליתarXiv:2506.00849v2 Announce Type: replace-cross Abstract: Despite the empirical success of Diffusion Models (DMs) and Variational Autoencoders (VAEs), their generalization performance remains theoretically underexplored, especially lacking a full consideration of the shared encoder-generator structure. Leveraging recent information-theoretic tools, we propose a unified theoretical framework that provides guarantees for the generalization of both the encoder and generator by treating them as randomized mappings. This framework further enables (1) a refined analysis for VAEs, accounting for the generator's generalization, which was previously overlooked; (2) illustrating an explicit trade-off in generalization terms for DMs that depends on the diffusion time $T$; and (3) providing computable
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית