כתבה
arXiv cs.AI ·
D^2-מוניטור: מעקב יציבות דינמי ל-LLMs של דיפוזיה דרך אותות הפסקה
$D^2$-Monitor: Dynamic Safety Monitoring for Diffusion LLMs via Hesitation Signals
מעקב יציבות דינמי ל-LLMs של דיפוזיה דרך אותות הפסקה. המחברים הציגו את D^2-מוניטור, מערכת שמספקת מעקב יציבות דינמי ל-LLMs של דיפוזיה. המערכת משתמשת באותות הפסקה כדי לזהות סימני הפסקה, ולספק תחזית יציבות. המחברים הציגו את D^2-מוניטור כפתרון יעיל ויעיל לבעיה של מעקב יציבות ב-LLMs של דיפוזיה.
תקציר מקורי באנגליתarXiv:2605.25893v2 Announce Type: replace Abstract: Despite the emergence of diffusion large language models (D-LLMs) as an alternative to autoregressive large language models (AR-LLMs), safety monitoring for D-LLMs remains largely unexplored. Unlike AR-LLMs, D-LLMs generate text through a multi-step denoising process, exposing intermediate hidden representations that may contain safety-relevant information unavailable in standard single-step monitoring setups. Motivated by the suitability of lightweight probes for always-on monitoring, we analyze which trajectory-level signals best indicate when such probes are likely to struggle. We find that the most informative signal is safety hesitation: intermediate hidden states repeatedly falling within a small margin of the probe's decision bound
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית