כתבה
arXiv cs.LG ·
CoHyDE: אימון רציפי של כתבביט LLM ומעבד צפוף לחיפוש כלים
CoHyDE: Iterative Co-Training of LLM Rewriter & Dense Encoder for Tool Retrieval
CoHyDE הוא תהליך אימון רציפי של כתבביט LLM ומעבד צפוח לחיפוש כלים. הוא משלב אימון של המעבד על הצגות תאורטיות של כלים, ואימון של הכתבביט על תאורטיות של כלים. התהליך משפר את תוצאות החיפוש של כלים ב-2.5% NDCG@5 וב-6.3% על שאלות וואג.
תקציר מקורי באנגליתarXiv:2605.29271v2 Announce Type: replace-cross Abstract: Tool retrieval over large API catalogs is a core bottleneck for LLM agents: user queries arrive in colloquial, often underspecified language, while the catalog uses technical API vocabulary that no fixed encoder can bridge on its own. The two dominant training approaches, contrastive encoder fine-tuning and HyDE-style query expansion with a frozen LLM, address this problem from opposite ends and fail in complementary directions: the fine-tuned encoder excels when the query's surface form already matches the catalog but collapses when it does not, while zero-shot HyDE is more robust to underspecified queries yet generates catalog-unaware hypothetical descriptions that degrade retrieval when queries are well-formed. We introduce CoHyD
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית