יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

תאוריה מתמטית של בסיסים רשומים עבור צמצום רשתות

A Mathematical Theory of Reusable Neural Bases for Network Compression
אנו מציגים תאוריה מתמטית של בסיסים רשומים לשם השגת צמצום יעיל של פרמטרים וקיצור עלות המסגרת. המודל מאפשר לבנות רשתות רחבות ועמוקות יותר תחת תקציב פרמטרים זהה.
תקציר מקורי באנגליתarXiv:2609.01550v2 Announce Type: replace Abstract: As large AI models become increasingly prevalent across a wide range of applications, memory cost has become a critical bottleneck in both training and inference. To mitigate this issue, we introduce the Linear Reusable Neural Bases Architecture (LRNBA), a novel framework aimed at improving parameter efficiency and reducing memory cost. Inspired by recurrent neural network (RNN) designs, the core idea of our approach is to represent each network block as a linear combination of a shared set of neural bases, thereby enjoying highly network compression rate while maintaining stable training. The proposed architecture allows for the construction of significantly wider and deeper networks under the same parameter budget. Extensive experiments
קרא במקור המקורי