יום שני, 5 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

אימות אונליין של תגובות מודלי שפה תחת תקציב

Online Verification of Language Model Responses Under Cost Constraints
אימות אונליין של תגובות מודלי שפה תחת תקציב. המאמר עוסק בפיתוח אלגוריתם לאימות אונליין של תגובות מודלי שפה, שמטרתו לבצע אימות זמין ומהיר של תגובות מודלי שפה, תוך הקטנת עלויות. האלגוריתם, הנקרא OMVV, משתמש בשיטה של רשימת נקודות ציון, ומספק תוצאות זמינות ומהירות. המאמר כולל תיאור של OMVV, וכן תוצאות של ניסויים שנערכו על מאגרי נתונים שונים.
תקציר מקורי באנגליתarXiv:2610.02632v1 Announce Type: new Abstract: As large language models are increasingly deployed for multi-step reasoning, verifying the correctness of their outputs has become essential for maintaining reliability at scale. Verifying the correctness of large language model outputs is often done by querying a costly ground-truth oracle, which is impractical to invoke at every step in an online setting. Prior work addresses this by querying a single weak verifier on every step, and using its score to decide whether the costly strong verifier needs to be queried as well, reserving strong verification for only a small fraction of the steps. However, a single fixed weak verifier may not perform consistently well as the subject matter or difficulty of incoming queries changes over time, and c
קרא במקור המקורי