כתבה
arXiv cs.CL ·
LLMs אינם תוכים סטוכסטיים
LLMs are not stochastic parrots: Evidence for meaning-mediated abstraction from conlang-like tasks
מחקר חדש מוכיח כי מודלי LLMs יכולים לייצר הפשטות מובנות, בניגוד לטענה שהם פועלים רק על בסיס דפוסים סטטיסטיים. המחקר בדק את היכולת של מודלים שונים להבין וליישם כללים בשפות בדיוניות.
תקציר מקורי באנגליתarXiv:2609.34187v2 Announce Type: replace Abstract: The strong version of the stochastic parrot argument claims that, although large language models (LLMs) may exceed rote regurgitation, they cannot move beyond statistical pattern matching into abstraction or reasoning, remaining ontologically near the lower bound of pattern reuse despite producing alluringly fluent text. We test this hypothesis using conlang-like tasks. Several LLMs are given only natural-language descriptions of fictional languages that subvert prominent superficial patterns in training data by combining statistically uncommon and unattested features. Crucially, no example outputs are given. We argue that if the models exhibit rule-following behaviour, they cannot be relying solely on superficial statistical patterns; su
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית