יום שישי, 9 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

למד להחליט, ולא לסבול: פענוח פרמטרים נמוך-דרגה לפעולות החלטה על ידי נהיגה נמוכה-דרגה

Learning to Decide, Not to Reason: Parameter-Efficient Decision Operators via Low-Rank Activation Steering
פענוח פרמטרים נמוך-דרגה לפעולות החלטה. פיתוח פעולה החלטה נמוכה-דרגה שמצטרף למודלי GPT-5 ו-Gemini.
תקציר מקורי באנגליתarXiv:2610.06950v2 Announce Type: replace Abstract: Injecting skills into a frozen language model currently costs a million parameters and a reinforcement-learning pipeline. We introduce DecSteer, a System-1 decision operator trained by behavior cloning that lowers this cost by roughly two orders of magnitude. The default operator uses 330K parameters to match a 1.33M-parameter operator trained with reinforcement learning, exceeds or achieve comparable performance, while collapsing 3,685-token deliberation into a 6-token decision with no loss in accuracy. A rank-4 variant with 23K parameters, 1/58 of the strongest published skill operator, suffices for SearchQA and near-suffices for LiveMath, where higher rank still helps; the same recipe transfers across five tasks and three backbones, wi
קרא במקור המקורי