כתבה
arXiv cs.LG ·
האצת קודינג ספארס סטרימי עם קודינג חיברידי
Accelerating Hierarchical Sparse Predictive Coding with Hybrid Amortized Inference
במאמר זה, נחקרת שיטת האצת קודינג ספארס סטרימי עם קודינג חיברידי. השיטה משלבת קודינג ספארס וקודינג חיברידי כדי להאצת האלגוריתם. המחברים מציעים שיטה חדשה של קודינג חיברידי שמשלבת את היתרונות של שני הקודינגים. השיטה נבדקה על ידי המחברים על ידי חישובי תצוגה והתוצאות היו טובות.
תקציר מקורי באנגליתarXiv:2606.27802v2 Announce Type: replace Abstract: Hierarchical predictive coding provides an interpretable framework for perception as error-driven inference in multi-layer models, while sparse coding imposes parsimonious latent representations through explicit sparsity constraints. Their combination yields hierarchical sparse predictive coding models with appealing computational and neuroscientific properties, but practical use is often limited by the cost of iterative latent inference. In such models, each input may require many recurrent refinement steps before a useful sparse representation is obtained, and this burden becomes more severe as the hierarchy deepens. We study this bottleneck by comparing training-and-inference procedures that share the same hierarchical sparse objective
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית