כתבה
arXiv cs.CL ·
SEER: דחיסת שרשרת מחשבה עצמית
SEER: Self-Enhancing Chain-of-Thought Compression for Reasoning Models
SEER הוא כלי לדחיסת שרשרת מחשבה עצמית, המשפר את יכולת ההיגיון של מודלים גדולים. הוא מוריד את אורך שרשרת המחשבה ב-34.6% בממוצע, תוך שיפור ביצועים.
תקציר מקורי באנגליתarXiv:2509.14093v3 Announce Type: replace-cross Abstract: Chain-of-Thought (CoT) prompting can substantially improve the reasoning ability of large language models (LLMs), but it often comes with high inference cost due to long and poorly controlled reasoning traces. This overhead is particularly problematic in software engineering tasks (e.g., code generation), where both latency and output reliability matter. To better understand this trade-off, we conduct an empirical study on widely used code generation benchmarks and observe that many modern reasoning models produce excessively verbose CoTs (often thousands of tokens), which frequently leads to truncation and unstable generation. Using a strict n-gram repetition detector, we find that most observed truncations are associated with dege
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית