כתבה
arXiv cs.LG ·
שיפור בתפיסה של LLM על ידי עיצוב שכר הפריה הנשוא
Boosting LLM Reasoning via Human-Inspired Reward Shaping
במאמר זה, המחברים מציגים פרקטיקה חדשה לשיפור תפיסה של LLM על ידי עיצוב שכר הפריה הנשוא. הם מציגים פרקטיקה חדשה הנקראת T2T, המבוססת על התנהגות האדם. T2T עובד על ידי שני שלבים: (1) כאשר ה-LLM עדיין לא הצליח לפתור את הבעיה, T2T מעודד 'עבודה עבה' כדי להרחיב את החיפוש ולחפש דרכים חדשות לפתרון. (2) כאשר ה-LLM הצליח לפתור את הבעיה, T2T מעביר ל'עבודה דקה', המטרה היא למנוע ריבוי ולעודד ביטול ידע. המחברים מציגים תוצאות מעבדה על 5 LLM ראשיים ומציגים כי T2T משפר את התפיסה של LLM.
תקציר מקורי באנגליתarXiv:2602.04265v4 Announce Type: replace Abstract: Reinforcement Learning with Verifiable Rewards (RLVR) has emerged as a promising paradigm for enhancing reasoning in Large Language Models (LLMs). However, existing reward formulations typically treat exploration and consolidation as a monolithic process, resulting in entangled stage-wise learning dynamics. This contradicts the natural learning behavior of human learners. In human learning, individuals adopt distinct behavioral patterns toward mastered versus unfamiliar problems. When confronting unmastered challenges, humans prioritize broad exploration to seek viable solutions. By contrast, for well-mastered problems, they focus instead on reasoning condensation and knowledge abstraction to distill concise underlying principles. Motivat
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית