יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

תמיכה טופולוגית וערבוב גרדיאנטים בשכבות Sinkhorn

Support Topology and Gradient Mixing in Sinkhorn Layers
חוקרים פיתחו שיטה לניתוח גרדיאנטים בשכבות Sinkhorn. השיטה מאפשרת לקבוע תנאים מתמטיים לתמיכה טופולוגית וערבוב גרדיאנטים. המחקר מספק כלים לעיצוב שכבות תחבורה גמישות.
תקציר מקורי באנגליתarXiv:2609.07954v1 Announce Type: cross Abstract: Sparse Sinkhorn layers use a fixed support graph to restrict transport between tokens. How does this graph control gradient propagation through the scaling iterations. We develop a fixed-support calculus showing that each row-column cycle induces a row-stochastic operator on column-potential perturbations modulo constants. Its transpose propagates zero-mass reverse-mode cotangents. The finite-cycle operator uses two distinct half-step transport plans; at a balanced fixed point it reduces to a two-step walk determined by a single plan. We derive the accompanying score and marginal source terms and use Dobrushin contraction and minorization to bound homogeneous and source-driven tail cotangents. Our main result characterizes when support and
קרא במקור המקורי