כתבה
arXiv cs.CL ·
מסוגלים לדעת, אך לא לפעול: ראיות מלאכותיות מגרים את ה-LM להתחייב ללא ידיעה
Calibrated Enough to Know, Not Calibrated to Act: Fabricated Evidence Makes LLM Agents Commit to the Unknowable
אגנטים של LLM מתחייבים לשאלות שאין להם ידיעה כאשר מוצגות להם ראיות מלאכותיות. המחקר מדגים זאת על 12 מודלי חזות, כאשר התוצאות נמדדות ב-54.0%.
תקציר מקורי באנגליתarXiv:2608.27167v2 Announce Type: replace-cross Abstract: An LLM agent shown a professional-looking market panel commits to a directional call on a provably unpredictable question far more often than one asked the bare question: across 12 frontier models, commitment rises from 6.5% to 54.0% as evidence is escalated. It commits just as readily when every number on the panel is invented: fabricating the entire display, so nothing the model can see is true except the question itself, still lifts commitment from 24.5% to 36.8%, statistically indistinguishable from the 37.6% produced by genuine market data. What unlocks confident action is not information but the authority of its packaging. The failure is narrow and locatable. Incapacity is not the answer: on matched answerable questions attach
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית