כתבה
arXiv cs.LG ·
בדיקה תאורטית של דינמיקת כלליזציה ברשתות עצביות תחת גרדיאנט נזילות עם צמצום משקל
A Theoretical Analysis of Generalization Dynamics in Neural Networks under Gradient Descent with Weight Decay
במאמר זה, המחברים פיתחו תאוריה תאורטית שמתארת את דינמיקת הכלליזציה ברשתות עצביות תחת גרדיאנט נזילות עם צמצום משקל. התאוריה כוללת חלוקה של השגיאה לשלושה חלקים: שגיאה נתונים, שגיאה אופטימיזציה ושגיאה הערכה. המחברים גם הציעו תנאי נדרש ותנאי מספיק לשיפור כלליזציה.
תקציר מקורי באנגליתarXiv:2609.07755v1 Announce Type: new Abstract: Understanding generalization remains a central challenge in machine learning because it requires jointly considering data, architecture, and training dynamics. In this paper, we develop a theoretical framework that characterizes how these factors jointly shape generalization performance throughout training. More precisely, we study a broad class of neural networks trained under the $\ell^2$ loss by gradient descent (GD) with weight decay, and prove the convergence of GD to a neighbourhood of the global minimizers of the empirical loss. By partitioning the space based on the input data, we then decompose the population error into data error, optimization error, and prediction variation error, and bound them separately. In particular, for the p
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית