כתבה
arXiv cs.LG ·
סכנות עמידות במערכות זיהוי PII
Mind the Gap: Robustness Risks in PII Detection Systems
מערכות זיהוי PII כושלות תחת שינויים בהתפלגות. נבדקו מודלים ממשפחות SpaCy, Presidio ו-Qwen2.5-3B. התוצאות מראות כי מודלים שונים כושלים באופן שונה.
תקציר מקורי באנגליתarXiv:2609.03464v1 Announce Type: new Abstract: Personally Identifiable Information (PII) detection is a foundational component of data protection infrastructure where missed entities constitute direct privacy and security risks. Although modern PII systems report strong performance on standard benchmarks, we show that these evaluations mask substantial robustness failures under realistic distribution shifts encountered in deployment. Rather than comparing state-of-the-art accuracy, we study how different PII detection paradigms fail under noisy, unstructured, and informal inputs. We construct a stress test benchmark spanning seven categories of natural distribution shift and evaluate representative systems from three widely deployed architectural families: encoder-based NER (SpaCy), rule-
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית