יום חמישי, 8 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

שינויים של נצבים לא-רגליים באימון רשתות נוירונים בשדה

Fluctuations of Nonlinear Observables in Mean Field Neural Network Training
במאמר זה, נראה כיצד שינויים של נצבים לא-רגליים נפוצים באימון רשתות נוירונים. המחקר עוסק בקבועי גבול של רשתות נוירונים ובשינויים של נצבים לא-רגליים באימון.
תקציר מקורי באנגליתarXiv:2610.09768v1 Announce Type: new Abstract: Mean field limits describe the training dynamics of wide neural networks through the evolution of the empirical distribution of their parameters. Although functional central limit theorems characterize the asymptotic fluctuations of this distribution, quantities of practical interest are typically nonlinear observables of the parameter distribution rather than the distribution itself. In this work, we show how these mean field fluctuations propagate to finite dimensional nonlinear observables for shallow neural networks trained by stochastic gradient descent. Working in the weighted Sobolev space in which the limiting fluctuation process is constructed, we apply a functional Delta method under ordinary Fr{\'e}chet differentiability, without r
קרא במקור המקורי