כתבה
arXiv cs.LG ·
Backdooring מודלים אקוסטיים
Backdooring Acoustic Foundation Models for Physically Realizable Triggers
חוקרים הדגימו כיצד ניתן להחדיר 'דלת אחורית' למודלים אקוסטיים, מה שמאפשר הפעלת טריגרים פיזיים. התקפה זו יכולה לגרום לירידה משמעותית בביצועים של מודלים אלו.
תקציר מקורי באנגליתarXiv:2610.09819v1 Announce Type: cross Abstract: Acoustic foundation models (AFMs) have democratized acoustic applications, enabling powerful models for tasks ranging from speech recognition to speaker verification with minimal resources. However, the security of applications based on AFMs remains largely underexplored. Our work addresses this gap by proposing the Foundation Acoustic model Backdoor (FAB) attack, demonstrating that state-of-the-art AFMs are susceptible to backdooring under practical settings. Despite making minimal assumptions about adversary capabilities (e.g., no access to pre-training data), we show that FAB preserves benign performance while inducing backdoors that survive fine-tuning and cause significant degradation across diverse downstream tasks when activated. Not
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית