כתבה
arXiv cs.AI ·
למד להחליט, ולא לסבול: פענוח-עמידה להחלטות דרך ניהול-דרגה נמוך
Learning to Decide, Not to Reason: Parameter-Efficient Decision Operators via Low-Rank Activation Steering
מחקר חדש מציג פענוח-עמידה להחלטות, המאפשר פענוח-עמידה יעיל יותר דרך ניהול-דרגה נמוך. המחקר עושה שימוש במודלי GPT ו-LangGraph, ומציע פתרון לבעיית ההחלטות המורכבות.
תקציר מקורי באנגליתarXiv:2610.06950v2 Announce Type: replace-cross Abstract: Injecting skills into a frozen language model currently costs a million parameters and a reinforcement-learning pipeline. We introduce DecSteer, a System-1 decision operator trained by behavior cloning that lowers this cost by roughly two orders of magnitude. The default operator uses 330K parameters to match a 1.33M-parameter operator trained with reinforcement learning, exceeds or achieve comparable performance, while collapsing 3,685-token deliberation into a 6-token decision with no loss in accuracy. A rank-4 variant with 23K parameters, 1/58 of the strongest published skill operator, suffices for SearchQA and near-suffices for LiveMath, where higher rank still helps; the same recipe transfers across five tasks and three backbon
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית