כתבה
arXiv cs.CL ·
LOGIC: שיפור יעילות ועמידות בהטיה הקשרית ל-LLM
Beyond Prompting: Efficient and Robust Contextual Biasing for Speech LLMs via Logit-Space Integration (LOGIC)
LOGIC הוא כלי לשיפור יעילות ועמידות בהטיה הקשרית למודלי LLM. הוא מאפשר הכללת ישויות חדשות במודלים, ומשפר את יכולתם להבין מונחים תחומיים. הניסויים הראו שיפור של 9% בדיוק הכרת ישויות.
תקציר מקורי באנגליתarXiv:2601.15397v3 Announce Type: replace-cross Abstract: The rapid emergence of new entities -- driven by cultural shifts, evolving trends, and personalized user data -- poses a significant challenge for existing Speech Large Language Models (Speech LLMs). While these models excel at general conversational tasks, their static training knowledge limits their ability to recognize domain-specific terms such as contact names, playlists, or technical jargon. Existing solutions primarily rely on prompting, which suffers from poor scalability: as the entity list grows, prompting encounters context window limitations, increased inference latency, and the "lost-in-the-middle" phenomenon. An alternative approach, Generative Error Correction (GEC), attempts to rewrite transcripts via post-processing
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית