כתבה
arXiv cs.LG ·
MaRK: תצורות רציפות של קרניות-מרקוב להתאמה דינאמית של פעולות מנהלים במודלי מרחב-מצב
MaRK: Markov-adapted Recurrent Kernels for Dynamic Operator Conditioning in State Space Models
MaRK הוא פרקטיקה חדשה של תצורות רציפות של קרניות-מרקוב, המאפשרת התאמה דינאמית של פעולות מנהלים במודלי מרחב-מצב. הפרקטיקה משתמשת בקרניות-מרקוב כדי להתאים את הפעולות המנהלים לתנאים שונים, ולאפשר תצורות רציפות של קרניות-מרקוב. MaRK נבחן במספר תחומים, כולל תצורות רציפות של קרניות-מרקוב, התאמה דינאמית של פעולות מנהלים, ואפשרות להפעלה של MaRK במספר תחומים.
תקציר מקורי באנגליתarXiv:2610.09092v2 Announce Type: replace Abstract: State Space Models (SSMs) offer an efficient alternative to Transformers for sequence modeling, yet conditioning pre-trained SSMs for iterative generation typically operates outside the recurrent operator, through input injection or activation modulation. While such mechanisms expose the model to conditioning information, they leave the underlying temporal dynamics fixed. We introduce MaRK (Markov-adapted Recurrent Kernels), a dynamic operator-conditioning framework that maps context vectors directly into bounded modulations of a frozen SSM's recurrence ($A$), read-in ($B$), read-out ($C$), skip ($D$), and discretization ($\Delta$) parameters. Viewed through the lens of LPV-SSM systems, MaRK induces a context-indexed family of Markov para
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית