יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.AI ·

התנהגות חופשית-קבוצתית ברשתות קדימה-קדימה: נכונה, תיקונית, אך לא דומיננטית בדיוק

Cumulative-Goodness Free-Riding in Forward-Forward Networks: Real, Repairable, but Not Accuracy-Dominant
התנהגות חופשית-קבוצתית ברשתות קדימה-קדימה היא נכונה, תיקונית, אך לא דומיננטית בדיוק. המחקר מציג תיקונים שונים לבעיה, אך נמצא כי הם לא תורמים לשיפור בדיוק. המחקר גם מציג תאוריה של התנהגות זו ומציע תיקונים לבעיה.
תקציר מקורי באנגליתarXiv:2605.06240v2 Announce Type: replace-cross Abstract: Forward-Forward (FF) training lets each layer learn from a local goodness criterion. In cumulative-goodness variants, later layers can inherit a task that earlier layers have partly separated. We formalize this as layer free-riding: under the softplus FF criterion, the class-discrimination gradient reaching block $d$ decays exponentially with the positive margin accumulated by earlier blocks (Theorem 3.1); a squared-hinge barrier reproduces the pathology. History-free and hardness-gated repairs raise deeper-layer separation by up to $5\times$ on CIFAR-100 and $45\times$ in an 8-block CIFAR-10 model, yet these and a depth-scaled auxiliary term move accuracy by under one percentage point among non-degenerate variants; on Tiny ImageNet
קרא במקור המקורי