יום שלישי, 15 בספטמבר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

השערת חברות באמצעות הערכת הסתברות ברמת המילה

Black-Box Membership Inference via Word-Level Probability Estimation
חוקרים פיתחו שיטה חדשה להשערת חברות במודלים שפה גדולים, כולל GPT-5 ו-Claude. השיטה, WPMIA, משתמשת בדגימה מונטה קרלו וחלקוק גרעיני מקומי. היא נבדקה על מודלים פתוחים ופרופריטריים, והראתה תוצאות טובות.
תקציר מקורי באנגליתarXiv:2609.10611v1 Announce Type: cross Abstract: Membership inference attacks (MIAs) have emerged as critical tools for auditing privacy risks in large language models (LLMs), aiming to determine whether a given text was included in a model's training corpus. However, most existing MIAs require access to per-token logits or probabilities, making them inapplicable in practice to proprietary LLMs that expose only textual continuations. To address this underexplored setting, we propose Word-level Probability MIA (WPMIA), a statistically principled MIA for strict black-box privacy auditing. WPMIA estimates word-level generation probabilities via Monte Carlo sampling with local kernel smoothing, then aggregates these estimates into a sequence-level likelihood estimator. Furthermore, WPMIA cons
קרא במקור המקורי