כתבה
arXiv cs.AI ·
NesTok: מטוקניזציה עצמית מקנית 1D
NesTok: Nested Self-Aligned 1D Tokenizer for Autoregressive Image Generation
NesTok הוא כלי חדש ליצירת תמונות באמצעות מודלים אוטורגרסיביים. הוא משתמש בטכניקה חדשה לקידוד תמונות, המאפשרת דחיסה מותאמת אישית. NesTok משפר את איכות התמונות המיוצרות ומגיע לרמה חדשה של 1.46 במדד gFID.
תקציר מקורי באנגליתarXiv:2609.36756v3 Announce Type: replace-cross Abstract: One-dimensional (1D) variable-length visual tokenizers enable adaptive compression by varying the number of tokens, allowing downstream autoregressive (AR) models to flexibly trade off generation quality against computational cost using a single tokenizer. However, existing approaches based on nested dropout often fail to fully exploit the representational capacity of the tokenizer, resulting in suboptimal performance in both image reconstruction and generation. In this work, we introduce NesTok, a nested self-alignment framework tailored to dynamic visual tokenizers. NesTok introduces cross-length training, which jointly optimizes reconstruction across token lengths while using the full-length sequence to guide shorter counterparts
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית