כתבה
arXiv cs.LG ·
InKAN: B-Spline KANs via Truncated Power Form
InKAN מחליף את ה-Cox-de Boor recursion עם צורה חתוכה לפורמה לפעילויות B-spline. זה מאפשר פעילויות B-spline עם 5 $(x)_+^3$ תרמים במקומות חתכים מעודכנים. InKAN ניתן להתקנה כדי להחליף את ה-Cox-de Boor recursion.
תקציר מקורי באנגליתarXiv:2609.01956v2 Announce Type: replace Abstract: Kolmogorov-Arnold Networks (KANs) place learnable B-spline activations on network edges rather than fixed activations on nodes. The standard Cox-de Boor recursion evaluates these activations through $k$ sequential passes for degree-$k$ splines, consuming over 90% of forward-pass time. InKAN replaces this recursion with the truncated power form, a classical result from approximation theory that expresses each uniform cubic B-spline as five $(x)_+^3$ terms at shifted knot positions. This paper makes three contributions: (1) a torch.compile-fused implementation that collapses these operations into a single GPU kernel, eliminating all recursion, span lookup, and scatter-gather operations; (2) a bounded-coordinate stabilization that clamps the
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית