כתבה
arXiv cs.AI ·
מה ניתן לזהות באמצעות פס-רולאוט קבוע @k
What Fixed-Rollout pass@k Evaluations Can Identify
במאמר זה נציג תוצאות של חקירה שהתקיימה בנושא זיהוי פס-רולאוט קבוע @k. נראה כי זיהוי זה יכול לספק נתונים חדשים על תכונות של רשתות עצמאיות.
תקציר מקורי באנגליתarXiv:2609.09245v1 Announce Type: cross Abstract: Repeated-sampling evaluations increasingly extrapolate pass@k far beyond the number n of samples collected per problem. We show that, in the pooled/random-task conditional-Binomial model, fixed-n success counts identify only the n free moments of the latent per-task success distribution. Consequently, direct pass@k is identified for k <= n, but generic extrapolated pass@k, tail exponents, and tail constants are not identified for k > n, even with arbitrarily many exchangeable tasks at the same rollout budget. This is stronger than the observation that the usual estimator is undefined beyond n: it characterizes the information missing from the fixed-depth count-law experiment. We give exact count-law-preserving constructions with incompatibl
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית