כתבה
arXiv cs.AI ·
LOGIC: שיפור יעילות ועמידות בהטיה הקשרית ל-LLM
Beyond Prompting: Efficient and Robust Contextual Biasing for Speech LLMs via Logit-Space Integration (LOGIC)
LOGIC הוא כלי לשיפור יעילות ועמידות בהטיה הקשרית למודלי שפה גדולים. הוא משפר את היכולת לזהות מונחים ספציפיים ומקטין את שגיאות הזיהוי. LOGIC פועל בשכבת הפיענוח ומאפשר זמן עיבוד קבוע ללא תלות באורך הקלט.
תקציר מקורי באנגליתarXiv:2601.15397v3 Announce Type: replace Abstract: The rapid emergence of new entities -- driven by cultural shifts, evolving trends, and personalized user data -- poses a significant challenge for existing Speech Large Language Models (Speech LLMs). While these models excel at general conversational tasks, their static training knowledge limits their ability to recognize domain-specific terms such as contact names, playlists, or technical jargon. Existing solutions primarily rely on prompting, which suffers from poor scalability: as the entity list grows, prompting encounters context window limitations, increased inference latency, and the "lost-in-the-middle" phenomenon. An alternative approach, Generative Error Correction (GEC), attempts to rewrite transcripts via post-processing but f
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית