כתבה
arXiv cs.LG ·
אשליית BatchNorm: אבחון תופעות נירמול בהערכת מכונות ללא לימוד
The BatchNorm Illusion: Diagnosing Normalization Artifacts in Machine Unlearning Evaluation
חוקרים גילו תופעה חדשה המשפיעה על הערכת מכונות ללא לימוד, הנקראת 'אשליית BatchNorm'. התופעה גורמת לשינויים במדדים המשמשים להערכת הלימוד, ועלולה להטעות את התוצאות. המחקר מציע פתרון לבעיה זו.
תקציר מקורי באנגליתarXiv:2609.08901v2 Announce Type: replace Abstract: Approximate machine unlearning aims to remove the influence of specific training data from a trained model without retraining from scratch. We identify a previously undocumented confound in how unlearning is evaluated on BatchNorm-based architectures: a single forward pass over retain data, an operation that modifies no weight, can deterministically rewrite the model's normalization state and reverse the apparent surface-metric forgetting. We formalize this operation as a weight-preserving fixed-point operator and prove that any pre-versus-post gap it induces is provably attributable to BN running statistics rather than to any modification the unlearning method made to the weights. This attribution claim cleanly separates measurement fail
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית