כתבה
arXiv cs.AI ·
התאמה פעילה, לא הגנה סטטית: דינמיקות זמניות של שליטה מוקדמת בטיפול נמנע
Active Adaptation, Not Static Defense: Temporal Dynamics of Preventative Steering in Adversarial Fine-Tuning
דגמי שפה גדולים נותרו רגישים לטיפול נמנע זדוני. חוקרים חקרו טכניקה להגנה נגד זה ופיתחו טכניקה חדשה.
תקציר מקורי באנגליתarXiv:2609.10142v1 Announce Type: cross Abstract: Large language models remain fragile against malicious fine-tuning, motivating training-time defenses against harmful persona drift. Preventative Steering injects undesirable-trait persona vectors during fine-tuning and removes them at evaluation time, yet the mechanism behind its lasting protection remains unclear. Analyzing its temporal optimization dynamics, we find that the defense emerges from an early compensatory adaptation phase followed by a steady-state phase where the corrective signal decays; in parameter space, attention output projections emerge as the dominant residual-write route for defensive updates. Through Intervention Delta Preservation (IDP) and IDP Continuation experiments, we further show that preserving or reinjecti
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית