כתבה
arXiv cs.LG ·
TACS: תיאוריה-מודע קביעת מועמדים לאופטימיזציה של סיומת LLM
TACS: Trajectory-Aware Candidate Selection for LLM Jailbreak Suffix Optimization
מתודות אופטימיזציה של סיומת LLM הן מיפוקיות, וגורמות להטרדה של תגמול בשלב הבחירה. TACS מציע תשתית לבחירת מועמדים המודעת לתיאוריה, כדי לטפל בבעיה זו.
תקציר מקורי באנגליתarXiv:2608.29564v3 Announce Type: replace-cross Abstract: Gradient-based jailbreak suffix optimization methods typically update the suffix by retaining the candidate with the lowest current loss. We show that this seemingly natural design is fundamentally myopic: candidates that look better under the current-step proxy often fail to produce better jailbreak outcomes later in the search, revealing a form of selection-stage reward hacking. This suggests that candidate selection, rather than candidate generation alone, is a hidden bottleneck in suffix optimization. To address this issue, we propose TACS, a trajectory-aware candidate selection framework for jailbreak suffix optimization. Instead of selecting candidates solely by their immediate loss, TACS augments per-step evaluation with a tr
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית