כתבה
arXiv cs.CL ·
BeliefScope: אבחון שינויים במודלים גדולים
BeliefScope: Diagnosing Evidence-Driven Revision and Pressure-Induced Shifts in Large Language Models
BeliefScope הוא כלי לאבחון שינויים במודלים גדולים כמו Llama ו-Qwen. הוא בודק את השפעת הראיות והלחץ על המודלים. המחקר מראה כי השינויים במודלים יכולים להיות מושפעים מגורמים שונים.
תקציר מקורי באנגליתarXiv:2610.11305v1 Announce Type: new Abstract: A language model may revise the same proposition after receiving genuinely relevant evidence or after receiving directional user pressure that adds no relevant fact. The observable response shift alone therefore does not reveal which source drove the change. We introduce BeliefScope, a controlled black-box framework for separating these two sources of influence around a fixed target proposition. BeliefScope crosses Evidence and Pressure with factor-specific local controls and measures response changes through probability reports, categorical judgments, and action recommendations on channel-appropriate scales. To determine when these observable contrasts support reliable attribution, we evaluate the observation design under controlled syntheti
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית