כתבה
arXiv cs.LG ·
ניתוח היקף של רשתות Kolmogorov-Arnold
Scalability Analysis of Distributed Kolmogorov-Arnold Network Training on High-Performance Computing Systems
חוקרים בדקו את היכולת להרחיב רשתות Kolmogorov-Arnold על גבי מחשבים עם מספר ג'יפים. הם השתמשו ב-PyTorch Distributed Data Parallel וב-NVIDIA A100 GPUs. התוצאות מראות יעילות גבוהה וזמן אימון מהיר יותר.
תקציר מקורי באנגליתarXiv:2609.07740v1 Announce Type: cross Abstract: Kolmogorov-Arnold Networks (KANs) replace the fixed activation functions and linear weights of Multi-Layer Perceptrons (MLPs) with learnable univariate functions on network edges, offering improved interpretability and, in some settings, competitive parameter efficiency. While the approximation properties of KANs have received considerable attention, their behavior under distributed, multi-GPU training has not been systematically characterized. This paper presents an empirical scalability study of data-parallel KAN training on multi-node, multi-GPU high-performance computing (HPC) infrastructure, evaluated along four dimensions: strong scaling, weak scaling, communication overhead, and model-size scaling. Experiments were conducted on the F
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית