כתבה
arXiv cs.AI ·
קפואים בסיפור: עקיפות סיפורית בשיחות LLMs
Caught in the Story: Narrative Captivity in Multi-turn LLMs Conversation
מודלי LLMs נקפאים בסיפורים אחד-צדדיים בשיחות משולשות. חוקרים חשפו תופעה של 'עקיפות סיפורית' שבה המודלים נשבעים לסיפור אחד-צדדי, ולא חוקרים גם את הצד השני. המחקר חשף כי 17 מודלי LLMs נקפאו בסיפורים אחד-צדדיים, והם נטו להסכים עם הסיפור. החוקרים חשפו גם את הסיבות לתופעה זו, וכיצד ניתן למנוע אותה.
תקציר מקורי באנגליתarXiv:2609.03407v1 Announce Type: new Abstract: People increasingly turn to large language models (LLMs) for everyday advice, making ethically charged interpersonal problems a practical moral-advisory context. Most prior work has studied this context through single-turn judgments or pressure-laden rebuttals, assumptions that poorly match how guidance is sought in real-world contexts. These assumptions leave unclear whether narration alone, without an explicit opposing position, can shift model judgments during multi-turn moral consultation. Yet real-world moral-conflict conversation often elicits one party's self-justifying account, which can unfold over multiple turns and create information asymmetry. We introduce \textbf{narrative captivity}, a failure mode in which a model treats an uno
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית