כתבה
arXiv cs.CL ·
SanSi: מודל לקבלת החלטות מטיפוס מחובר
SanSi: A Looped Typed Decision Model for System 1.5 Thinking
SanSi הוא מודל לקבלת החלטות מטיפוס מחובר. הוא מאפשר למודל לשפר את החלטותיו על ידי חיזוק המצב הנסתר לפני הגעה להחלטה. SanSi הראה תוצאות טובות ב-10,027 החלטות מ-59 מקורות.
תקציר מקורי באנגליתarXiv:2610.07730v1 Announce Type: new Abstract: Typed decision models answer a declared question without generating text: a decision head returns a probability for each of the declared options in a single forward pass. A single pass is fast, intuitive System 1 thinking. We study what lies between one pass and generated reasoning: looping, in which the same layers are recursively applied several times before one typed readout. Each loop lets the model revise its hidden state before it commits to an answer, without generating a token; we call this System 1.5 thinking. We propose SanSi, which turns a pre-trained looped language model into a typed decision model. The option probabilities are read after every loop, and every loop is trained with a proper scoring rule, so that one model serves e
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית