כתבה
arXiv cs.LG ·
Route, Don't Fix: תיקון תקיפה ומערכת ניווט לבחירת תשובה קלינית מדויקת
Route, Don't Fix: Regime-Dependent Decoding Correction and a Trajectory-Gated Router for Reliable Clinical LLM Answer Selection
תיקון תקיפה ומערכת ניווט לבחירת תשובה קלינית מדויקת. המחקר מציג שיטה לתיקון תקיפה של מודלי ידע גדולים (LLMs) ומערכת ניווט לבחירת תשובה קלינית מדויקת. השיטה, הקרויה ALTAS, קוראת את האנטרופיה המוצאית ואת הרגישות המאוחרת של המודל ומחליטה האם לבצע תיקון תקיפה או לבצע ניווט לבחירת תשובה. השיטה נבדקה על ידי המחברים והתגלתה כיעילה ומדויקת.
תקציר מקורי באנגליתarXiv:2609.14825v1 Announce Type: cross Abstract: Large language models (LLMs) are often deemed unsafe for clinical question answering because of their tendency to hallucinate. Retrieval augmentation, fine-tuning, and external verifiers require new infrastructure that clinical governance must approve and may add latency or extra model calls. Inference-time correction uses the model's internal logit signals, but a fixed transformation need not suit every question. A corrector that improves accuracy by about ten percentage points on a truthfulness stress test yields negligible gains on clinical multiple-choice benchmarks, where instruction tuning concentrates output probability on one answer and leaves low terminal entropy. We introduce ALTAS, which reads terminal entropy and late-layer line
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית