כתבה
arXiv cs.AI ·
האם טקסט קריא לאדם הכרחי לקיפול LLM?
Is Human-Readable Text Necessary for Effective LLM Fine-Tuning?
חוקרים שיטה חדשה לקיפול מודלי שפה גדולים, DASA, שמשתמשת במשוב גרדיאנטי ממודל רפרנס לשיפור התאמה. השיטה נבדקה על מודלים ממשפחות Llama ו-Qwen, והראתה ביצועים טובים.
תקציר מקורי באנגליתarXiv:2609.35868v1 Announce Type: new Abstract: Is human readability necessary for effective fine-tuning of large language models? We investigate whether model-conditioned training representations can preserve or improve adaptation utility without requiring a human-readable textual form. We propose Desired-Update-Aligned Synthetic Data (DASA), which uses activation-gradient feedback from a frozen reference model to guide the optimization of continuous synthetic input embeddings. Inspired by the role of activation gradients in local risk reduction, DASA targets useful adaptation updates rather than source-text reconstruction or linguistic fluency. The resulting embeddings are used directly for downstream fine-tuning; discrete token projections are employed only for qualitative inspection. E
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית