כתבה
arXiv cs.LG ·
המימד האופטימלי של העומק המידעי של למידת VC
The optimal information complexity of VC learning
במאמר זה נחקר המימד האופטימלי של העומק המידעי של למידת VC. נראה שה-VG-דימנסיון של המודל הוא גורם חשוב בהצלחת הלמידה.
תקציר מקורי באנגליתarXiv:2610.10600v1 Announce Type: cross Abstract: Steinke and Zakynthinou(2020) introduces the Conditional Mutual Information (CMI) framework of analyzing the information complexity of learning algorithms based on algorithm-dependent information-theoretic quantities. We study one of these quantities, the evaluated Conditional Mutual Information (eCMI). It has been an interesting question whether the optimal PAC guarantee for VC classes can be recovered from the algorithm-dependent analyses via CMI. And we show that it is possible to recover this guarantee by constructing a learning algorithm whose eCMI is of order O(d) in the realizable case, where d is the VC-dimension of the concept class. Specially, our algorithm is a randomized Majority-of-5 base learners with optimal in-expectation ge
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית