כתבה
arXiv cs.LG ·
OnlineQAT: התכנסות למודלים גדולים של שפה
OnlineQAT: On-Policy Distillation for Ultra-Low-Bit Large Language Models
OnlineQAT הוא שיטה חדשה להפחתת עומס חישובי של מודלים גדולים של שפה. היא משלבת אימון תלוי-קוונטיזציה עם התכנסות מקוונת. ניסויים על Qwen3-1.7B הראו שיפור בביצועים לעומת שיטות קודמות.
תקציר מקורי באנגליתarXiv:2610.09346v1 Announce Type: cross Abstract: Quantization-aware training (QAT) can recover much of the accuracy lost when large language models are compressed below four bits. Existing re- covery stages, however, are commonly optimized on fixed completions or teacher-generated answers, whereas the deployed quantized model condi- tions on prefixes generated by itself. Quantization errors can therefore move the model into states that are absent from offline recovery data. We introduce OnlineQAT, a two-stage framework that first obtains a usable low-bit initialization through block-wise QAT and then performs on-policy distillation (OPD) on student-generated responses. At each visited pre- fix, a frozen full-precision teacher provides a sampled reverse-KL training signal. On Qwen3-1.7B, O
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית