יום שישי, 31 ביולי 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

דלילות מתעוררת במעבדי תכונות CNN מוקפאים

Emergent Sparsity in Frozen Random CNN Feature Extractors for Deep Reinforcement Learning
חוקרים גילו תופעה מרתקת: סוכנים של למידת חיזוק עמוק המאומנים עם מעבדי תכונות CNN מוקפאים ואקראיים מפתחים ייצוגים דלילים מאוד, ללא מטרה מפורשת. המחקר מראה כי הדלילות הזו משתנה עם סיבוכיות המשימה.
תקציר מקורי באנגליתarXiv:2607.26059v1 Announce Type: new Abstract: We report a striking phenomenon: deep reinforcement learning agents trained with frozen, randomly initialized CNN feature extractors spontaneously develop extremely sparse fully-connected representations, without any sparsity-inducing objective. In the first fully-connected layer (FC1, $3{,}136 \to 64$), agents compress task-relevant information through as few as 1-3 neurons out of 64 for deterministic Pong (5-11 for stochastic Pong), while trainable CNNs activate 55-64 neurons under matched conditions. We establish four principal findings. First, FC1 sparsity scales with task complexity: 1-11 for Pong, 19-26 for Breakout, and $\sim$42 for Space Invaders. Width-scaling confirms this reflects task structure rather than a fixed capacity fractio
קרא במקור המקורי