כתבה
arXiv cs.AI ·
DoGBench: האם סוכנים יכולים לעמוד בסטנדרטים של מומחים למסמכי תיעוד?
DoGBench: Can Agents Meet Expert Standards for User-Facing Documentation?
DoGBench הוא בנק אימות לבדיקת יכולתם של סוכנים ליצור מסמכי תיעוד למשתמשים. הבנק מכיל 292 פריטים מפרויקטים קוד פתוח, ובודק האם סוכנים יכולים לייצר מסמכי תיעוד שיעמדו בסטנדרטים של מומחים.
תקציר מקורי באנגליתarXiv:2609.39909v1 Announce Type: cross Abstract: We introduce DoGBENCH (Documentation Generation Benchmark), to our knowledge, the first benchmark for generating and maintaining real user-facing software documentation. It asks whether an agent can produce documentation that experienced technical writers would accept in review. The benchmark contains 292 items from open source projects, including Helm, PostHog, and Mautic. Each item gives the agent a pre-change repository and a trigger, such as a code pull request or a reported documentation gap. The agent must first decide whether the documentation needs an update. For items that need one, the agent must produce an acceptable patch in one attempt. For items that do not need updates, the agent must abstain. Task-specific rubrics, validated
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית