כתבה
arXiv cs.LG ·
הכשרת ניהול תפקידי קונטקס
Trained Agentic Context Management
במאמר זה, נחקרים דגמי שפה עם קונטקס רב. נכשר דגם Qwen3.6-35B-A3B על סדרת נתונים סינתטית דורסטית, כשהדגם קורא וכותב עצמו. הדגם חזק כמו GPT-5.4 עם 1M תווים של קונטקס, כשאורך המסמך עולה על 40K תווים.
תקציר מקורי באנגליתarXiv:2610.02404v1 Announce Type: new Abstract: We study long context language models. Instead of training long context natively, or designing a long context harness, we train a model over the simplest possible harness: a tool to call itself with any specified prompt and a tool to read tokens in a range from the input context. We finetune Qwen3.6-35B-A3B on a diverse synthetic dataset using this harness. With only 8,000 tokens of context, our small model is as strong as GPT-5.4 with 1M tokens of context on the OOLONG-synth benchmark when document length exceeds 40K tokens.
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית