כתבה
arXiv cs.LG ·
Robustifying Asynchronous SGD via Soft Throttling
אנו מציגים את Throttle, גרסה ביזנטית-רובוסטה של SGD אסינכרוני, שבה עדכוני הגרדיאנט של הלקוחות המהירים מופחתים באופן אקספוננציאלי.
תקציר מקורי באנגליתarXiv:2609.39357v1 Announce Type: new Abstract: Asynchronous SGD is a popular algorithm for distributed learning where each client's gradient update is applied on arrival. This leads to a speed-up, but also an increased vulnerability to attacks, as fast clients can dominate the total update. We introduce Throttle, a Byzantine-robust generalization of asynchronous SGD where the key idea is to exponentially down-weight updates from faster clients by a factor $q$. Both asynchronous SGD ($q=1$) and synchronous Byzantine-robust SGD ($q\to\infty$) correspond to specific settings of Throttle. We provide a theoretical analysis of the convergence rate and validate the robustness to attacks both theoretically and empirically. Remarkably, our experiments show that this down-weighting mechanism can al
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית