יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

העברה מונחית בהתאמה להוראות

A helps B while B hurts A: directed transfer in instruction-tuning mixture
חוקרים גילו כי העברה בין משימות הדרכה יכולה להיות מונחית וא-סימטרית. הם פיתחו 'מפת העברה' שחוזה את החומרים המשמעותיים לכל משימה. המחקר בוצע על מודלים Qwen ו-Mistral.
תקציר מקורי באנגליתarXiv:2609.39702v1 Announce Type: cross Abstract: Adapting a language model to a specialized corpus means choosing which instruction-tuning tasks to train on under a fixed budget, and testing one choice costs a fine-tuning run. Common heuristics add more source tasks or pick sources similar to the target. The first assumes transfer is never negative; the second, that it is symmetric. We show that both assumptions fail: task $A$ can help task $B$ while $B$ hurts $A$, so helpfulness is a signed property of ordered source--target pairs. We introduce the transfer map, a signed estimate of how much each source helps or hurts each held-out target. We fit the map in hundreds of fine-tuning runs on Qwen3 and Mistral models from 0.6B to 32B parameters, with all sources drawn from one corpus and no
קרא במקור המקורי