כתבה
arXiv cs.AI ·
התאמה בזמן בדיקה של ViTs מקוטעים
Test-Time Adaptation of Quantized ViTs via Single-Pass Quantizer-Aligned Recalibration
חוקרים הציגו שיטה חדשה להתאמה בזמן בדיקה של מודלים ViT מקוטעים. השיטה, Quantizer-Aligned Recalibration, משפרת את הדיוק של המודלים תחת שינויי הפצה, בלי צורך בעדכון פרמטרים או בחזרה על האימון. השיטה הוכחה כיעילה במודלים שונים וברמות קיטוע שונות.
תקציר מקורי באנגליתarXiv:2610.08358v1 Announce Type: cross Abstract: Post-training quantization is a standard route to fitting vision transformers (ViTs) into edge compute and memory budgets, yet quantized models become especially brittle under distribution shift. Test-time adaptation (TTA) addresses such shifts without labels, but most existing approaches are poorly aligned with the constraints of quantized inference. Prevailing TTA methods recover accuracy through backpropagation, while backprop-free methods often still incur overhead from extra forward passes or parameter updates, and lightweight feature- or logit-level methods recover only part of the loss. Across these approaches, a quantization-specific failure mode that amplifies the drop is not directly targeted: under shift, activations occupy froze
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית