כתבה
arXiv cs.AI ·
FlexRouter: פיתוח קבוצות מודלים משלימות לרוטינג LLM רב-מודלי
FlexRouter: Learning Complementary Model Sets for Flexible LLM Routing
FlexRouter הוא פרקטיקה חדשה לרוטינג LLM שמטרתה לשפר את כיסוי התשובות. הפרקטיקה משתמשת ב-Determinantal Point Processes (DPPs) כדי לייצר קבוצות מודלים שמשלימות זו את זו. FlexRouter נבחן במבחן RouterEval והוכיח כי הוא משפר את כיסוי התשובות ומקטין את החומרה הדרושה.
תקציר מקורי באנגליתarXiv:2609.38585v1 Announce Type: cross Abstract: Existing Large Language Model (LLM) routing methods score LLMs independently to select top-$k$ models. However, this ignores model correlations and enforces a rigid computational budget. Consequently, routers often select redundant models that share failure modes, limiting the overall probability of success. To address this, we propose FlexRouter, a routing framework that explicitly models model complementarity. FlexRouter optimizes for \textit{answer coverage}, maximizing the probability that at least one selected model yields a correct response. This objective aligns with practical inference pipelines where multiple candidate outputs are generated and a downstream verifier or user selects the final one. We formulate routing as a coverage-
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית