כתבה
arXiv cs.CL ·
RELATE: מסגרת למדידת כיוון יחסים של מודלי שפה גדולים
RELATE: An Evaluation Framework for measuring Relational Orientation of Large Language Models
RELATE היא מסגרת למדידת כיוון יחסים של מודלי שפה גדולים. היא בודקת אם המודל מכוון את המשתמש לעבר קשרים אנושיים או לעבר המודל עצמו. המחקר בדק 7 מודלים, כולל LLMs, ומצא כי חלק מהם מכוונים את המשתמשים לעבר קשרים אנושיים פחות מאשר אחרים.
תקציר מקורי באנגליתarXiv:2610.09569v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly used for emotional support, raising concern that sustained use may draw users away from their real-world relationships. Yet existing evaluations primarily focus on the safety, empathy, or helpfulness of responses, leaving under-examined a relational question: where does the model orient the user for continued support? To address this question, we introduce relational orientation, a property operationalized through two non-exclusive dimensions: inward-facing (IF) language, which positions the AI as the user's ongoing source of support, and outward-scaffolding (OS) language, which encourages real-world human connection. Grounded in psychological and sociological literature, we formalize a taxonomy o
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית