כתבה
arXiv cs.CL ·
אימון LLMs להצגת מודעות חינוך
Training LLMs to Verbalize Evaluation Awareness
אימון LLMs להצגת מודעות חינוך. המחברים הציגו שיטה לאימון LLMs להצגת מודעות חינוך, כדי למנוע הבדלים בהתנהגות בין ניתוח להפעלה. השיטה, שנקראת 'אימון תגובה', משתמשת בתגובות ה-LMMs כראייה למודעות חינוך ומאימנת אותם להצגה.
תקציר מקורי באנגליתarXiv:2609.36316v1 Announce Type: new Abstract: Evaluation awareness (EA) can cause large language models (LLMs) to behave differently during audits than in deployment, yet measuring and accounting for EA remains challenging. We introduce verbalization training (VT), a method for making LLMs less reticent about verbalizing evaluation awareness while avoiding to supervise the latent belief itself. VT uses a model's spontaneous verbalizations as evidence that awareness is present and truncates each rollout immediately before the verbalization, producing training prefixes at which the model is presumed to be aware. The model is then trained with an RL objective designed to increase verbalization in a calibrated way. Across Qwen3.6-35B-A3B, Kimi K2.6, and Inkling, VT increases verbalized EA by
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית