כתבה
arXiv cs.CL ·
LeakScale: הערכת השפעה גורמית של חשיפה לבנק אוצרות
LeakScale: Estimating the Causal Effect of Benchmark Exposure
LeakScale הוא כלי להערכת ההשפעה הגורמית של חשיפה לבנק אוצרות על ביצועי מודלים. הוא יוצר משימות חדשות ובודק את השינוי בדיוק כאשר הגישה למידע פרטי מוגבלת. התוצאות מראות כי חשיפה לבנק אוצרות משפרת את הדיוק בכל המקרים.
תקציר מקורי באנגליתarXiv:2609.27176v2 Announce Type: replace Abstract: Evidence that evaluation material entered training does not reveal how much it affected evaluation. This distinction leaves a contaminated benchmark score difficult to interpret: provenance can establish contact, but only a counterfactual can quantify the performance attributable to that contact. We present LeakScale, an interventional framework for estimating this missing quantity. LeakScale creates fresh executable tasks that require private, family-specific information absent from and non-derivable from the public task, controls access to that information, and estimates the resulting control-adjusted change in executable accuracy. Across 2,048 unique families, two model families, two executable domains, and 262,144 generations, exposur
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית