כתבה
arXiv cs.LG ·
למידה לאחסן באמצעות רכיבה בלמידה עצמית במרחב האמבדינג
Learning to Retrieve via Reinforcement Learning in Embedding Space
אוריינטציה חדשה לאחסן באמצעות למידה עצמית, שמטרתה לשפר את יכולת האחסן של דפדפני המידע. הפרויקט, שנקרא ReLER, משתמש בלמידה עצמית כדי ללמוד איך לאחסן יעילות במרחב האמבדינג. ReLER נבחן על BRITE, בסיס נתונים של חיפושים סביב תשובות. ReLER הציג תוצאות טובות יותר מאשר InfoNCE ו-LambdaLoss, וגם שיפר את יכולת האחסן של RAG.
תקציר מקורי באנגליתarXiv:2610.07731v1 Announce Type: cross Abstract: Dense retrieval models are typically trained with contrastive objectives that learn effective representations but do not directly optimize retrieval metrics or downstream task performance. To address this problem, we introduce RELER (REinforcement LEarning for Retrieval), a reinforcement learning framework that enables existing embedding models to learn to retrieve directly in embedding space and align to task-specific rewards. We train RELER by sampling unit-length query and document embedding actions from von Mises-Fisher (vMF) distributions centered on normalized encoder outputs, scoring the resulting retrieval or downstream outcomes as rewards, and updating the encoder with REINFORCE using a leave-one-out baseline (RLOO). As exploration
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית