כתבה
arXiv cs.CL ·
SWE-Journey: הערכה ריאליסטית יותר של עוזרי קידוד
SWE-Journey: Towards More Realistic Evaluation of Coding Assistants through Long-Horizon, Multi-Turn Interaction
SWE-Journey הוא בנך' להערכה ריאליסטית יותר של עוזרי קידוד כמו Claude Code ו-Codex. הוא בוחן את היכולת לבצע שרשראות ארוכות של עבודת פיתוח באמצעות אינטראקציה רב-תורית. התוצאות מראות שהדגמים עוברים מעל 75% מהמבחנים עם אדריכלי תוכנה, אך פחות מ-25% עם לא-מתכנתים.
תקציר מקורי באנגליתarXiv:2610.11559v1 Announce Type: new Abstract: Coding assistants such as Claude Code and Codex have become a major application of LLM agents, yet existing benchmarks remain far from real-world use, particularly in task horizon and interaction length. Code assistants require completing long chains of development work in continuously evolving repositories, while repeatedly clarifying requirements and adapting implementations through multi-turn interaction. To address these gaps, we introduce SWE-Journey, a benchmark for more realistic evaluation of coding assistants. To address the task-horizon gap, we propose a weak-to-strong synthesis pipeline that automatically constructs long-horizon coding tasks. To address the interaction gap, we mine four representative user personas from real intera
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית