כתבה
arXiv cs.AI ·
NesTok: Tokenizer עצמאי נרושם לצורך ייצור תמונות אוטומטי
NesTok: Nested Self-Aligned 1D Tokenizer for Autoregressive Image Generation
NesTok הוא פרקטיקה חדשה של טוקניזציה 1D עצמאית, המאפשרת ייצור תמונות אוטומטי עם יכולת רכיבה גבוהה. הפרקטיקה כוללת טוקניזציה עצמאית, המאפשרת למודלים להתאים את עצמם לתמונות שונות. NesTok נחשב לפרקטיקה חדשה ומתקדמת בתחום הייצור האוטומטי של תמונות.
תקציר מקורי באנגליתarXiv:2609.36756v2 Announce Type: replace-cross Abstract: One-dimensional (1D) variable-length visual tokenizers enable adaptive compression by varying the number of tokens, allowing downstream autoregressive (AR) models to flexibly trade off generation quality against computational cost using a single tokenizer. However, existing approaches based on nested dropout often fail to fully exploit the representational capacity of the tokenizer, resulting in suboptimal performance in both image reconstruction and generation. In this work, we introduce NesTok, a nested self-alignment framework tailored to dynamic visual tokenizers. NesTok introduces cross-length training, which jointly optimizes reconstruction across token lengths while using the full-length sequence to guide shorter counterparts
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית