כתבה
arXiv cs.LG ·
U-Space: חשיפה כשהאורבניות נובעת במודלי שפה
U-Space: Uncovering When and Why Uncertainty Arises in Language Models
U-Space: חשיפה כשהאורבניות נובעת במודלי שפה. המאמר עוסק בפיתוח של U-Space, שהוא תחום נמוך-ממדים שמאפשר להעריך את האמינות של תחושות פנימיות של המודל. ה-U-Space מאפשר להעריך את האמינות של תחושות פנימיות של המודל, ולזהות את הגורמים שגורמים לאורבניות.
תקציר מקורי באנגליתarXiv:2610.09087v1 Announce Type: cross Abstract: Large language models are informing decisions with ever-higher stakes. As the consequences of their errors grow, a central question becomes harder to ignore: how much can we trust an individual answer? Yet recognizing when to defer remains difficult because language models can present incorrect conclusions with fluent explanations and an authoritative tone. Uncertainty quantification seeks to address this disconnect by estimating the reliability of individual predictions. However, many existing methods require repeated generations or separately trained components, and their scalar estimates do not reveal where uncertainty arises or how it evolves during reasoning. Recent work has also shown that generation length can be strongly associated
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית