כתבה
arXiv cs.LG ·
סקאלת טמפרטורה באמצעות רשתות סיגנל: קליברציה מותאמת לסיכון עם תקציב קטן
Signal-Routed Temperature Scaling: Low-Capacity Risk-Conditioned Calibration for Small Validation Budgets
קליברציה מותאמת לסיכון עם תקציב קטן, כדי לשפר את תוצאות האימון. המחקר עוסק בפיתוח שיטה חדשה לקליברציה של מודלי למידת מכונה, המתאימה את עצמה לסיכון ולתקציב האימון. השיטה, הנקראת Signal-Routed Temperature Scaling (SRTS-BCE), משתמשת ברשתות סיגנל כדי לקלוט את הסיכון ולהגביר את האימון. התוצאות המוצגות במחקר עולות על אלה של שיטות קליברציה אחרות, כולל SMART+BCE, והן תואמות את התקציב האימון.
תקציר מקורי באנגליתarXiv:2609.38936v1 Announce Type: new Abstract: When a classifier is recalibrated from only a few thousand held-out examples, the capacity of the calibration map becomes a statistical design choice rather than a purely architectural one: a scalar map can underfit structured residual miscalibration, while a highly adaptive map can be hard to estimate reliably from so small a split. We disentangle the calibration objective from adaptive capacity and propose signal-routed temperature scaling (SRTS-BCE), a 10-parameter, argmax-preserving calibrator that cross-fits a correctness-risk score over six logit statistics and fits one top-label-BCE temperature per $K=3$ risk groups, recovering TvA-TS as its $K=1$ limit. On fine-tuned CIFAR-100 / ViT-B/16, SRTS-BCE reduces $\mathrm{ECE}_{15}$ from 1.65
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית