יום חמישי, 8 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

אופטימיזציה נפרדת ללמידה חצי-מוצפנת תלת-מודלים

Decoupled Optimization for Teacher-Student Semi-Supervised Learning via a Pioneer Student
אופטימיזציה נפרדת ללמידה חצי-מוצפנת תלת-מודלים. פיתוח חדש של תלת-מודלי למידה חצי-מוצפנת.
תקציר מקורי באנגליתarXiv:2610.09609v1 Announce Type: new Abstract: Semi-supervised learning (SSL) relies on two core mechanisms: self-training under the Teacher-Student (T-S) framework and joint optimization of labeled and unlabeled losses. Despite their effectiveness, we find both mechanisms introduce distinct optimization pathologies. First, parameter coupling enforces strict synchronization between teacher and student, where strong regularization on the student degrades the teacher's fitting ability, thereby limiting the permissible generalization intensity. Second, the imbalance in gradient update consistency between labeled and unlabeled losses drives the shared parameters to prematurely converge to labeled-dominated local minima, creating a bottleneck for global optimization. To address both issues, we
קרא במקור המקורי