כתבה
arXiv cs.AI ·
מענה לפרשנות: שינוי גישה להערכת אי-ודאות
From Answers to Interpretations: Rethinking Ambiguity-Induced Aleatoric Uncertainty Estimation in LLMs
חוקרים מציעים גישה חדשה להערכת אי-ודאות במודלים לשוניים. הגישה מתמקדת בפרשנויות אפשריות ולא בתשובות. השיטה משפרת את הדיוק ומקטינה את העלות החישובית.
תקציר מקורי באנגליתarXiv:2609.04543v1 Announce Type: new Abstract: A key challenge in reliable LLM deployment is recognizing when uncertainty reflects irreducible variability in the task rather than limitations in the model's knowledge. In language tasks, a central source of such aleatoric uncertainty is input ambiguity or underspecification, where multiple interpretations remain plausible. Existing decomposition methods estimate aleatoric uncertainty by generating multiple clarifications of the input, querying the model for an answer under each clarification, and comparing the resulting answers. We argue that answers are not necessary for identifying ambiguity: they are often redundant, add avoidable cost, and can mislead through epistemic leakage. We support this claim theoretically, and propose a clarific
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית