כתבה
arXiv cs.LG ·
מתי היסטוריה של רשת מגלה את עתידה ללמוד טוב יותר ממצבה הנוכחי?
When does a network's training history predict its future learning better than its current state? Evidence from a response probe and a forecasting screen
המחקר חוקר את השאלה: מתי היסטוריה של רשת מגלה את עתידה ללמוד טוב יותר ממצבה הנוכחי? התוצאות מצביעות על כך שההיסטוריה של הרשת היא חשובה רק כאשר המצב הנוכחי של הרשת אינו מספיק לחזות את העתיד.
תקציר מקורי באנגליתarXiv:2610.09621v1 Announce Type: new Abstract: Networks that behave alike now can still learn differently when training continues. Work on loss of plasticity and critical periods shows that the path to a state shapes what follows; it does not show whether the path carries information that a measurement of the state itself misses. We ask when the training history of a network predicts its future learning better than its current state. In a main study, small multilayer perceptrons were trained under three history regimes (42 histories), and future learning was measured at four checkpoints by a short probe: a copy of the network trained for 100 updates on a new task. Before the prediction result was read, the protocol checked the probe. It responded monotonically to a function-preserving res
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית