כתבה
arXiv cs.LG ·
חשוב מחדש את האמינות של LLMs: נקודת תצפית זוגית-מותאמת לקשר
Rethinking Faithfulness in LLMs: A Pairwise Context-Sensitive Perspective
במאמר זה, המחברים חושבים מחדש את האמינות של LLMs ומציעים נקודת תצפית חדשה. הם טוענים שהאמינות אינה רק עניין של תשובות נכונות, אלא גם של יכולת המודל להתאים את התשובות לשינויים בקשר. הם מציעים נקודת תצפית זוגית-מותאמת לקשר, המבוססת על פרמטרים של תשובה וקשר.
תקציר מקורי באנגליתarXiv:2610.07894v1 Announce Type: cross Abstract: Large language models (LLMs) are expected to answer questions faithfully based on the provided context, abstaining when the context information is insufficient to answer the questions. Existing faithfulness evaluations typically assess each question-context instance in isolation; however, such instance-level evaluation fails to capture a fundamental requirement of faithful behavior: the ability to adapt model responses to changes in available contexts. In particular, a model should provide correct answers when sufficient evidence is present and abstain when it is not. In this work, we propose a Pairwise Faithfulness Benchmark (PFaithBench) that evaluates whether a model can switch between answering and abstaining for the same question under
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית