כתבה
arXiv cs.LG ·
PhantomFill: כאשר הטופס דורש תשובה, מודלי שפה ממציאים אחת
PhantomFill: When the Form Demands an Answer, Language Models Invent One
חוקרים גילו כי מודלי שפה כמו GPT-5.5 ממציאים תשובות כאשר הטופס דורש זאת, אפילו כאשר אין מידע מספיק. התופעה נקראת PhantomFill.
תקציר מקורי באנגליתarXiv:2607.20492v1 Announce Type: new Abstract: Language models in production do not write prose. They fill forms: JSON fields, function arguments, extraction templates. We show that the form itself causes hallucination. We ask thirteen models the same question about the same input and change only the answer format. The inputs are built so the question cannot be answered: a viral post showing 12,400 likes but no visible replies, a support ticket whose call was never transcribed. In free text, GPT-5.5 answers honestly. It says there is no reply data, 98% of the time. Given a required JSON field for sentiment, the same model invents an answer 40 times out of 40. It fabricates the mood of crowds it never saw and quotes customers it never heard. The pattern holds with force. Required fields dr
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית