כתבה
arXiv cs.AI ·
מוסריות היא תלויה בהקשר: למידת מוסריות מובנית מנתחי אנושיים עם קבוצות סבירות ומודלי שפה גדולים
Morality is Contextual: Learning Interpretable Moral Contexts from Human Data with Probabilistic Clustering and Large Language Models
מודלי שפה גדולים ולמידת קבוצות סבירות: כיצד ניתן ללמוד מוסריות מנתחי אנושיים. פיתוח פרקטי של קבוצות סבירות ומודלי שפה גדולים, כדי ללמוד מוסריות מנתחי אנושיים. כלי חדש ללמידת מוסריות, המשלב קבוצות סבירות ומודלי שפה גדולים.
תקציר מקורי באנגליתarXiv:2512.21439v2 Announce Type: replace-cross Abstract: A key question in current AI alignment research is how to make AI algorithms learn moral values. Because human morality is highly context-dependent, actions are judged not only by their outcomes but by the context in which they occur. We present COMETH (Contextual Organization of Moral Evaluation from Textual Human inputs), a framework that integrates a probabilistic context learner with LLM-based semantic abstraction and human moral evaluations to model how context shapes the acceptability of ambiguous actions. We curate an empirically grounded dataset of 300 scenarios across six core actions relative to three moral rules (violating "Do not kill", "Do not deceive", and "Do not break the law") and collect ternary judgments (Blame/Ne
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית