כתבה
arXiv cs.CL ·
לחשב עם סיימפלינג: קטיעה בנקודות החלטה
Reasoning with Sampling: Cutting at Decision Points
במאמר זה, המחברים חוקרים את יעילות סיימפלינג במודלי תגובה. הם מציגים אלגוריתם חדש שמשתמש באנטרופיה של המודל כדי לזהות נקודות החלטה ולשפר את יעילות הסיימפלינג.
תקציר מקורי באנגליתarXiv:2605.30327v2 Announce Type: replace-cross Abstract: Frontier reasoning models are produced by post-training base language models with reinforcement learning. Recent work has challenged this by showing that sampling from a sharpened version of the base model's distribution, a so-called power distribution, elicits comparable reasoning without additional training, curated datasets, or verifiers. However, making this method practical requires efficiently sampling from the power distribution. A sampler needs to "mix" to the power distribution, which necessitates moving between modes of the target distribution; intuitively, e.g., trying different reasoning strategies. The samplers proposed in prior works repeatedly select a "cut" position in the current reasoning trace uniformly at random
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית