כתבה
arXiv cs.CL ·
מודל מחלט עם אחסון
Can a Cacheable Decision Model Follow Rules?
חוקרים בדקו מודל מחלט קטן בשם Certo, שמבוסס על Qwen3-4B. המודל נבדק ביכולתו לעקוב אחר כללים תוך שימוש באחסון. התוצאות הראו כי המודל איבד רגישות לכללים כאשר הוא השתמש באחסון, אך הצליח לשמור על רגישות זו כאשר הוא פעל באופן ישיר.
תקציר מקורי באנגליתarXiv:2609.37832v1 Announce Type: cross Abstract: Certo is a small non-generative decision model (Qwen3-4B): it scores candidate actions from their text and returns a probability, instead of generating an answer. The accurate design reads the state, the rules, and each candidate together (a joint scorer), so cost grows with the menu. Independent encoding lets each candidate be encoded once and reused across states (about 5x cheaper at 77 candidates), but separates state from candidate. We ask how much rule-sensitivity survives that move, and whether it can be trained back. Four experiments on Certo: (1) the tested conversion to cacheable scoring loses rule-sensitivity (recall@1 1.00 -> 0.24) while the joint scorer holds 1.00, and a shortlist+rerank rescue fails; (2) targeted counterfactual
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית