כתבה
arXiv cs.LG ·
כאשר רוטינג חשף חברות: פרצת פרטיות מטלמטריקה של רוטר MoE
When Routing Reveals Membership: Privacy Leakage from MoE Router Telemetry
מודלי MoE יצאו לאור: טלמטריקה של רוטר יכולה לחשוף חברות. ניתוח של פרצת פרטיות שנכתבה על ידי חוקרים מ-Microsoft, Google ו-Meta.
תקציר מקורי באנגליתarXiv:2610.10616v1 Announce Type: new Abstract: Mixture-of-Experts (MoE) language models produce routing information during inference that may be logged or exposed for monitoring, debugging, load analysis, and safety auditing. Unlike ordinary model outputs, this telemetry reveals a view of the model's internal computation, raising a privacy question: can it reveal whether an example was used to fine-tune the deployed model? We introduce a router-augmented membership inference attack that combines conventional output-side signals with aggregated routing features and applies a membership classifier learned from independently fine-tuned shadow models to the target model. Across three MoE architectures and three data domains, router telemetry consistently improves membership inference over a s
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית