יום חמישי, 8 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

הערכת חשיפת חברות במודלי AI ללא דגמאות התייחסות

Estimating Model-Level Membership Inference Vulnerability Without Reference Models
במאמר זה נציג פתרון חדש להערכת חשיפת חברות במודלי AI ללא צורך בדגמאות התייחסות. הפתרון מבוסס על ניתוח התפלגות האבדון של המודל ומאפשר להעריך את חשיפת החברות במודל תוך שימוש בלבד במודל המקורי.
תקציר מקורי באנגליתarXiv:2510.19773v2 Announce Type: replace Abstract: Membership inference attacks (MIAs) have emerged as the standard tool for evaluating the privacy risks of AI models. However, state-of-the-art attacks require training numerous, often computationally expensive, reference models, limiting their practicality. We present a novel approach for estimating model-level vulnerability to the Likelihood Ratio Attack (LiRA), the strongest available attack, directly from the train and test loss distributions of the target model and without training any reference models. We show that LiRA's per-sample signal decomposes into a variance-ratio term and a residual mean-shift term, with the relative contribution of each determined by how much training collapses model uncertainty at the trained sample. This
קרא במקור המקורי