יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

גזירת טוקנים חזותית

Who Speaks for the Pruned? Visual Token Pruning as Coverage Optimization
גזירת טוקנים חזותית מקטינה עלות הסקה של מודלים רב-תחומיים. CoverPruner הוא אלגוריתם חדש ששואל מי מייצג טוקן שהוסר. הוא משיג דיוק ממוצע גבוה יותר משיטות אחרות.
תקציר מקורי באנגליתarXiv:2609.03158v1 Announce Type: cross Abstract: Visual token pruning reduces the inference cost of vision-language models (VLMs), but most methods only ask which tokens to keep. This retained-token view can keep redundant high-scoring tokens while leaving discarded evidence without a close representative. We propose CoverPruner, a training-free pruner that asks the complementary demand-side question: after a token is removed, which surviving original token represents it for the target VLM? CoverPruner formulates pruning as Representational Coverage Maximization (RCM), covering the full projected visual-token set with query-weighted demand. It instantiates RCM with projector-space coverage and a lightweight first-layer attention probe. Across multiple VLM architectures and compression rat
קרא במקור המקורי