כתבה
arXiv cs.CL ·
RAISE: אבחון התמוטטות רכישה באותות LLM יקרים
RAISE: Diagnosing Acquisition Collapse in Costly LLM Signals
RAISE הוא כלי אבחון לבדיקת יעילות אותות LLM יקרים. הוא בודק האם ניתן להשתמש באותות אלו באופן סלקטיבי, תוך התחשבות בעלויות ובאילוצים התפעוליים. RAISE משמש להערכת ערך האותות לפני החלטה על אסטרטגיית ראוטינג.
תקציר מקורי באנגליתarXiv:2608.10441v2 Announce Type: replace-cross Abstract: Large language models (LLMs) are increasingly used as costly, on-demand components in real systems, but calling them indiscriminately can waste substantial compute, latency, and serving budget. The key deployment question is therefore not only whether an LLM helps on average, but when it is worth calling. We identify a common failure mode, which we call acquisition collapse: an LLM signal can appear useful in aggregate or post hoc, yet still provide too little before-call information to support reliable selective use. We introduce RAISE (Reward-SNR Actionability in Signal Evaluation), a pre-routing diagnostic framework for testing whether available evidence supports selective use before committing to a routing strategy. We instantia
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית