כתבה
arXiv cs.LG ·
SAGE: ניקוי נתוני אימון מורעלים
SAGE: Similarity-Based Cleaning of Poisoned Training Data from Verified Examples
SAGE הוא אלגוריתם לניקוי נתוני אימון מורעלים. הוא משתמש בדוגמאות מאומתות כדי לזהות נתונים מורעלים. SAGE מוכיח יעילות גם עם מספר קטן של דוגמאות מאומתות.
תקציר מקורי באנגליתarXiv:2610.01788v1 Announce Type: new Abstract: As machine learning increasingly relies on public, untrusted data sources, data poisoning attacks, which inject malicious examples into training data to induce misclassification of a chosen target, pose a growing threat. Existing defenses either assume zero ground-truth information about which examples are poisoned, or they assume access to a large set of examples verified to be clean. Satisfying the latter assumption incurs significant cost since reliable verification can be very resource- or labor-intensive. This cost is particularly high for clean-label attacks, where poisoned examples are visually indistinguishable from clean data. Since requiring a large set of verified examples is impractical, we propose relying on a small set of verifi
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית