כתבה
arXiv cs.AI ·
לימוד לשאול: רכישת מידע לשיתוף SLM-LLM
Learning to Ask: Information Acquisition for SLM-LLM Collaboration, under a budget
שיתוף פעולה בין מודל שפה קטן (SLM) למודל שפה גדול (LLM) מאפשר שילוב יעילות ויכולות טובות. המחקר מציג גישה חדשה לשיתוף פעולה זה, המבוססת על רכישת מידע תחת הגבלת תקציב API. ה-SLM משמש כמנהל ראשי ושואל את ה-LLM רק כאשר נדרש.
תקציר מקורי באנגליתarXiv:2610.01236v1 Announce Type: new Abstract: Collaboration between a small language model (SLM) and a large language model (LLM) offers an opportunity to combine the efficiency of smaller models with the strong reasoning capabilities of larger ones. Existing approaches primarily frame such collaboration as a computation allocation problem, determining which model should handle each portion of the reasoning process. In black-box API-based settings, however, this paradigm can be inefficient due to coarse-grained delegation or repeated transmission of context across model switches. In this work, we instead formulate SLM-LLM collaboration as an information acquisition problem, under an API budget constraint. The SLM remains the primary reasoner and selectively queries a black-box LLM adviso
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית