כתבה
arXiv cs.LG ·
אימון מודלים מומחים ללא נתיבי הסברה
Training Specialist Models without Reasoning Trajectories for Domain Expert Distillation
במאמר זה, נראה כיצד ניתן לאמן מודלים מומחים ללא נתיבי הסברה רשמיים. נראה כיצד ניתן לשלוט בהפצת המודלים המומחים ובהפצת המודלים המומחים.
תקציר מקורי באנגליתarXiv:2609.13770v1 Announce Type: new Abstract: Specialist distillation effectively transfers domain expertise to student models via teacher-generated reasoning trajectories. However, when these specialists are trained solely on question--answer pairs without explicit reasoning supervision, what governs the trajectories they generate? In this work, we show that specialist optimization implicitly selects from this latent trajectory space. To isolate and observe this latent distribution, we leverage student distillation not as a downstream goal, but as an agnostic probe---since students inherit no parameterization or optimization constraints from the specialist, inheriting only the sampled trajectories themselves. Through this probe, our empirical analysis unveils a tight governing relations
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית