כתבה
arXiv cs.AI ·
שאריות ניל-ספייס רלוונטיות למשימה
Task-Relevant Null-Space Residuals for Non-Injective Neural Mappings
חוקרים הציגו שיטה חדשה לניצול מידע רלוונטי במרחב הקלט שאינו נראה בפלט של מיפויים נוירוניים לא-חד-ל-אחד. השיטה, הנקראת Task-Relevant Null-Space Residuals, משלבת היבטים שונים כדי לשפר ביצועים במשימות שונות.
תקציר מקורי באנגליתarXiv:2609.37272v1 Announce Type: new Abstract: Non-injective mappings in neural networks map distinct inputs to the same representation, thereby implicitly inducing equivalence relations in the input space. However, the input differences eliminated by these mappings may still be required by downstream tasks, creating a mismatch between operator-induced indistinguishability and task-required distinctions. For non-injective linear operators realized in the current forward pass, their null spaces exactly characterize these invisible input variations. We propose Task-Relevant Null-Space Residuals (NSR), a general residual framework for non-injective linear mappings. NSR combines null-space component extraction from pre-mapping representations, member-level encoding and gating, and application
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית