כתבה
arXiv cs.LG ·
חיזוי הדלפת פרטיות מצפיפות משקל
Predicting Privacy Leakage from Weight Spectral Density
חוקרים בדקו האם ניתן להשתמש במדדים ספקטרליים כדי לחזות הדלפת פרטיות במודלים של למידת מכונה. התוצאות מראות כי ניתן להשתמש במדדים אלו כדי לחזות הדלפת פרטיות באופן מדויק יותר מאשר שיטות מסורתיות.
תקציר מקורי באנגליתarXiv:2609.11780v1 Announce Type: new Abstract: Membership inference attacks (MIAs) are widely used to audit the privacy disclosure risk of machine learning models, however current state-of-the-art attacks require training computationally expensive shadow models, making large-scale privacy evaluation impractical. In this work, we investigate whether inexpensive spectral metrics derived from the heavy-tailed self-regularisation framework can serve as proxies for MIA vulnerability. We evaluate several WeightWatcher spectral metrics on image and tabular classification tasks and compare their relationship with MIA privacy leakage against conventional measures of generalisation. Across datasets, stable rank exhibits a strong positive correlation with overall MIA success, while Log alpha-Norm sh
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית