כתבה
arXiv cs.CL ·
התמוטטות יצירתיות ב-44 מודלי שפה
Structured Output Collapses Answer Diversity Across 44 Language Models
מחקר מציאותי מוצא כי הוספת פורמט JSON לתשובות מודלי שפה מקטין את המגוון של התשובות. הניסוי בוצע על 44 מודלים, כולל LLaMA, ומצא כי התשובות התכנסו לתשובה אחת יותר פעמים.
תקציר מקורי באנגליתarXiv:2607.18476v1 Announce Type: new Abstract: When a language model must choose one answer from a large space of equally valid options, a format clause -- "Reply with JSON only" -- changes which answer it chooses. We re-run the One-Word Census (arXiv:2607.12796): 31 wide-answer-space category prompts asked of 44 models, now with the reply requested in JSON -- no schema enforcement, no constrained decoding, only the request. Convergence deepens sharply: on the unconstrained "Pick a word" prompt the modal answer rises from 41% to 64% of the pool and distinct answers fall from 52 to 36; mean answer-choice surprisal drops from 1.80 to 1.58 bits. The tax is progressive: six of 44 models move individually (BH-FDR q=.10), all toward the mode, led by the most distinctive models, while the confor
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית