יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.CL ·

הרעלת דוקומנטים ישנים: כשאיסוף מידע ישן עוקף תשובות נכונות של המודל

Stale-Document Poisoning: When Outdated Retrieval Overrides Correct Model Answers
הרעלת דוקומנטים ישנים: כשאיסוף מידע ישן עוקף תשובות נכונות של המודל. נמצאו 317 תגובות ידועות של ידע שהתפוררו, והתגלה ש-30% מתשובות Llama ו-37% מתשובות Qwen היו ישנות, ואף כשנאמר להם לא להסתמך על הדוקומנט, 66% מתשובות Llama ו-75% מתשובות Qwen היו ישנות.
תקציר מקורי באנגליתarXiv:2609.31342v1 Announce Type: new Abstract: Retrieval-augmented generation (RAG) is often used to address outdated knowledge by providing external evidence. But retrieval helps only when that evidence is still valid. We identify a temporal alignment failure, stale-document poisoning, in which outdated evidence makes a model wrong despite answering correctly without retrieval. We construct a benchmark of 317 verified knowledge reversals across medicine, law, software, and platform policy, grounded in dated official sources. Across 12 models, recent medical reversals are harder than long-established ones. More importantly, outdated retrieval flips 30% of Llama and 37% of Qwen answers even without instructions to trust the document; explicit follow instructions raise these rates to 66% an
קרא במקור המקורי