כתבה
arXiv cs.CL ·
איחוד ידע של LLMs להכרת דיבור אוטומטית
Merging the Knowledge of LLMs for Automatic Speech Recognition
חוקרים הצליחו לשפר את ביצועי ההכרת דיבור האוטומטית (ASR) על ידי איחוד ידע של מודלים לשוניים גדולים (LLMs). השיטה החדשה מאפשרת לשלב מודלים חיצוניים ישירות אל תוך פרמטרים של מודל ASR, מבלי להוסיף עלויות חישוביות נוספות בזמן הפעלה.
תקציר מקורי באנגליתarXiv:2609.15743v1 Announce Type: new Abstract: Automatic speech recognition (ASR) systems, trained on paired speech-text data, have been improved by leveraging language models (LMs) trained on text-only data. LM fusion methods such as shallow fusion and density ratio are well-established methods that incorporate external LMs during ASR decoding. However, they incur additional computational costs due to LM inference, which is particularly problematic for recent larger LMs. In this study, we propose incorporating external LMs via model merging. This method integrates the LMs directly into the parameters of an LLM-based ASR model, requiring no additional computational cost at inference. We formulate domain extension and transfer via arithmetic operations on LoRA parameters. Experimental eval
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית