כתבה
arXiv cs.CL ·
בקרה חסרת תלות בקלט יוצרת ראש חדרור ניכר לתכנותי רב-שכבה בבדיקות בחירה
Input-Blind Controls Produce Substantial Oracle Headroom for Layer Programs in Multiple-Choice Evaluation
בדיקות חסרות תלות בקלט מצאו ראש חדרור ניכר לתכנותי רב-שכבה בבדיקות בחירה. התכנותיים נבחנו על דגמי Qwen3-4B-Base ו-Llama-3.1-8B.
תקציר מקורי באנגליתarXiv:2610.10368v1 Announce Type: cross Abstract: Adaptive computation aims to improve language-model inference by tailoring execution to each input. For layer programs, oracle evaluations use known answers to estimate the potential gain from this flexibility, before a practical selector is available. However, a gain from selection does not by itself explain why the chosen programs help. This study examines this distinction using 32 layer-skipping and repetition programs on two models and 4,413 multiple-choice items. The analysis compares their gains over a fixed action selected without the evaluation prompt with those of input-blind perturbations at the same sites, re-evaluating selections on another prompt. With shared option order, the controls give 10.2-11.8 and 15.6-19.4 percentage po
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית