כתבה
arXiv cs.LG ·
הסדרת בחירת המומחים של MoE ללמידת ריפוי
Structuring MoE Expert Selection for Agentic Reinforcement Learning
במאמר זה, נחקרים קשרי התלות בין התנהגות ריפוית ובחירת מומחים MoE. נציגים פרקטיקה חדשה לבקרת רוטינג MoE, המספקת שיפור של 10 נקודות בקצב הצלחה בכל המדדים שנבחנו.
תקציר מקורי באנגליתarXiv:2610.07332v1 Announce Type: new Abstract: Long-horizon LLM agents are frequently implemented using sparse mixture-of-experts (MoE) models, yet the co-design of agentic behavior and MoE structures remains underexplored. In this work, we comprehensively study the connections between agentic post-training and MoE expert selection. In off-the-shelf MoE models, we observe expert selection exhibits a specialized structure that naturally aligns with agentic trajectories. Specifically, expert routing overlaps more between turns where the agent performs semantically similar operations (e.g., READ, UPDATE) than between turns with differing operations. However, standard RL algorithms ignore this specialization, allowing the MoE routing to go uncontrolled during training, which empirically limit
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית