יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

תשומת לב Nystr"om מתאימה לתשומת לב מלאה לחיזוי מניות

Nystr\"om Attention Matches Full Attention for Cross-Sectional Stock Prediction
מחקר מציג תוצאות על תשומת לב Nystr"om שמתאימה לתשומת לב מלאה לחיזוי מניות. התשומת לב הנלמדת היא קרובה לאחידות, אך הכפיית אחידות מושלמת מוציאה את כל האפליקציה הצולבת. ניתוח ספקטרלי מסביר את הפרדוקס: ההטיה מהאחידות היא בדרגה נמוכה, מה שמסביר למה קירובים דלילים נכשלים בעוד Nystr"om מתאים לתשומת לב מלאה.
תקציר מקורי באנגליתarXiv:2609.08106v1 Announce Type: new Abstract: MASTER's inter-stock multi-head attention -- the module responsible for modeling cross-sectional stock relationships -- accounts for 42.5% of model parameters and 25% of predictive value. We systematically decompose this module and uncover a surprising structure: the learned attention is near-uniform (perplexity 278/300), yet forcing exact uniformity eliminates all cross-sectional discrimination. Spectral analysis resolves this paradox: the deviation from uniformity is low-rank (effective rank ~65, top-10 modes capture 96.5% of energy), explaining why sparse approximations consistently fail while Nystrom low-rank attention (m=32 landmarks) matches full O(N^2) attention at O(mN) cost -- certified equivalent via TOST at both N=300 (5 seeds, Ran
קרא במקור המקורי