כתבה
arXiv cs.AI ·
הצפנה-משופרת: קיצור-מסה של גורמי גזירה למודלי שפה גדולים
Security-Enhanced Seed-Based Weight Quantization for Large Language Models
אפליקציה חדשה של קיצור-מסה למודלי שפה גדולים, המשלבת הצפנה וגזירה עם פחות זיכרון ואנרגיה.
תקציר מקורי באנגליתarXiv:2609.38477v1 Announce Type: cross Abstract: Large language models (LLMs) incur substantial storage, memory-bandwidth and energy costs, motivating compact weight representations. Existing seed-based compression methods reconstruct weights from compact pseudo-random representations but do not explicitly account for the non-uniform sensitivity of model weights. We introduce Seed-Q, a security-enhanced sensitivity-aware seed-based weight compression framework that uses lightweight Linear Feedback Shift Register (LFSR)-based weight generation with non-uniform bit allocation. Our approach assigns larger representation budgets to sensitive weights while aggressively compressing less sensitive regions. Importantly, this non-uniform allocation requires no side-information: the decoder determi
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית