כתבה
arXiv cs.LG ·
SAC-Copula: מים תוויות איכות למודלים שפה דיפוזיה
SAC-Copula: Quality-Preserving Watermarking for Diffusion Language Models via Smooth Correlated Gumbel Fields
SAC-Copula הוא שיטה חדשה למים תוויות למודלים שפה דיפוזיה. השיטה משתמשת בשדות גומבל מחוברים מקומית כדי לשפר את איכות הייצור. ניסויים על מודל LLaDA הראו ש-SAC-Copula משיגה איזון טוב בין איכות לגילוי.
תקציר מקורי באנגליתarXiv:2608.20839v2 Announce Type: replace-cross Abstract: Watermarking diffusion language models (DLMs) requires mechanisms compatible with iterative parallel unmasking rather than autoregressive decoding. Existing sampling-based watermarking methods typically inject position-wise i.i.d. perturbations, which can be poorly aligned with DLM decoding dynamics and degrade generation quality. We propose SAC-Copula, a quality-preserving watermarking method for DLMs based on smooth, locally correlated Gumbel perturbation fields constructed via a Gaussian copula. We further develop a SAC-aware detector using covariance-aware filtering and native-sample calibration. Mechanism-level analysis shows that local correlation reduces latent perturbation roughness and better matches iterative refinement dy
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית