כתבה
arXiv cs.LG ·
בינה על לוח גיר עוקפת אוטורגרסיה
Blackboard Intelligence Can Surpass Autoregressive on Globally Constrained Problems
חוקרים מציגים 'בינה על לוח גיר' - גישה חדשה למודלים של שפה טבעית. הגישה מאפשרת למודלים לעבוד על מצבי פתרון חלקיים ולשפר את התוצאות. הניסויים הראו שיפור משמעותי בביצועים לעומת מודלים אוטורגרסים.
תקציר מקורי באנגליתarXiv:2609.38806v2 Announce Type: new Abstract: Next-token prediction has driven remarkable progress in large language models, yet a growing body of evidence suggests that they can struggle on problems governed by complex global constraints. In this work, we focus on this regime and ask whether some of these limitations arise from the inference interface induced by next-token prediction itself. We study this question through blackboard intelligence: an inference-time perspective in which a model works on a fixed, revisable canvas and searches over candidate solution states rather than committing to a causal, left-to-right trajectory. We instantiate this idea with diffusion language models, whose any-order prediction interface naturally exposes predictions over partially filled solution sta
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית