כתבה
arXiv cs.AI ·
TruthInsightBench: מבחן חדש לביקורת אוטומטית של סוכני גילוי מדעי
TruthInsightBench: An Evidence-Grounded Benchmark for Automated Evaluation of Open-Ended Scientific Discovery Agents
מבחן חדש לביקורת סוכני גילוי מדעי, המבחן TruthInsightBench, נועד לבדוק את יכולתם של סוכני גילוי מדעי לבצע גילוי מדעי פתוח. המבחן כולל 40 משימות חדשות, המבוססות על 40 מאמרים מדעיים שפורסמו בעשרה תחומי מדע שונים. המבחן TruthInsightBench נועד לבדוק את יכולתם של סוכני גילוי מדעי לבצע גילוי מדעי פתוח, ולבדוק את יכולתם לבצע ניתוח ותיאור של תוצאות. המבחן TruthInsightBench כולל גם תיאור של המודלים והכלים שהושקעו בו.
תקציר מקורי באנגליתarXiv:2609.05079v1 Announce Type: new Abstract: Autonomous coding agents are increasingly proposed as AI-scientist systems that conduct analyses and write research reports, but executing a prescribed analysis is not the same as making a discovery. Existing benchmarks are configured for reproduction: tasks, data, and rubrics are built around a hidden target study, and recovery of its result is rewarded. We present TruthInsightBench, a benchmark configured for discovery. Its 40 blind tasks, drawn from 40 peer-reviewed studies across 10 scientific domains, expose only a neutral scientific objective and frozen data; source conclusions, expected values, and analysis paths are withheld, leaving the agent to determine what claim the data support. A fixed LLM-based judge scores the evidentiary mat
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית