כתבה
arXiv cs.LG ·
AURAL: נימוק לטנטי עם גושים משותפים למודלי שפה דיבור
AURAL: Adaptive Latent Reasoning with Joint Chunk for Speech Language Models
AURAL הוא מודל חדש שמשלב נימוק לטנטי עם גושים משותפים למודלי שפה דיבור. המודל מאפשר תגובות מהירות יותר ומשפר את איכות התגובות. AURAL-RL משתמש ב-683K משפטים דו-לשוניים כדי לאמ� את הנימוק הלטנטי.
תקציר מקורי באנגליתarXiv:2610.01560v1 Announce Type: cross Abstract: Model intelligence and fast response jointly shape the quality of interaction with speech language models, yet remain difficult to achieve together. Explicit chain-of-thought (CoT) improves reasoning and audio understanding, but generating intermediate reasoning tokens delays responses. Describing fine-grained acoustic cues further lengthens CoT and increases latency. Latent reasoning can reduce this overhead, yet existing methods often trail CoT and remain limited by single-path supervision and reasoning budgets that do not adapt to problem difficulty. We introduce AURAL, which models a distribution over multiple plausible reasoning continuations in latent space and jointly predicts chunks of future states to reduce sequential forward pass
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית