יום חמישי, 8 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

התפשטות תפיסה קולבורטיבית דרך פידבק רב-כיווני וקורסטורציה תקיפה

Collaborative Reasoning Distillation via Cross-Feedback and Coherent Curation
מודלי שפה גדולים משפרים את יכולת התפיסה שלהם דרך התפשטות קולבורטיבית. המודל CRD-4B, לדוגמה, הצליח להשיג 97.3% ב-MATH-500 ו-70.3% ב-AIME'25, וזאת עם תקציב של 50K דגימות לימוד.
תקציר מקורי באנגליתarXiv:2610.09587v1 Announce Type: cross Abstract: Reasoning capabilities are critical for advancing Large Language Models, yet current approaches either require massive computational budgets or struggle to effectively distill reasoning to smaller models. Standard distillation methods rely on outcome-based rewards, failing to distinguish between sound reasoning and lucky guesses. We propose Collaborative Reasoning Distillation (CRD), a framework that enhances reasoning in compact models through three innovations: (1) interactive cross-feedback where teachers iteratively critique each other's reasoning, (2) fine-grained step-wise quality assessment capturing logical validity independent of final answers, and (3) coherence-aware step stitching that synthesizes complementary strengths. Student
קרא במקור המקורי