כתבה
arXiv cs.AI ·
גיאומטריה של יחסים הקשריים
The Geometry of Contextual Relations: Language Models Address Facts by Order of Mention
מודלים של LLM מייצגים עובדות לפי סדר הזכרתן. מחקר זה בודק את האופן שבו מודלים כמו Llama ו-Qwen מארגנים ידע בהקשר לשאילתות. התוצאות מראות כי המודלים משתמשים בווקטורים סדריים כדי להגיע לעובדות.
תקציר מקורי באנגליתarXiv:2610.00910v1 Announce Type: cross Abstract: Human reasoning depends on how objects are related within propositions. \textit{How do relations organize the language representations of contextual contents?} We give an LLM a list of facts in its context (e.g., \emph{Alice eats an apple. Bob eats a pear.}) and measure how its hidden state changes when the question switches from what Alice eats to what Bob eats. Averaged over many lists, this change is a steering vector, which we call the \emph{ordinal vector}. It points to a fact by its \emph{order of mention}, the order in which the facts were stated in the context. We find that LLMs represent the fact a question asks about by its order of mention, not by the name the question contains. We state this as the \textit{ordinal addressing hyp
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית