כתבה
arXiv cs.CL ·
אותו טקסט, מספרים שונים
Same Text, Different Numbers: The Divergence of LLM-Based Measures
חוקרים בודקים את השימוש במודלים גדולים של שפה להמרת טקסט למשתנים אמפיריים. הם מוצאים כי המידות המבוססות על LLM משתנות בהתאם לבחירת המודל. שבעה LLM מספקים שונים נבדקים.
תקציר מקורי באנגליתarXiv:2609.31013v1 Announce Type: cross Abstract: Researchers increasingly use generative large language models (LLMs) to convert corporate text into empirical variables. We examine the extent to which LLM-based textual measures are invariant to model choice using thirteen measures, including sentiment, management clarity, uncertainty, answer specificity, and climate and political risk. Seven LLMs from different providers score earnings call transcripts of S&P 500 companies on these constructs. Cross-model rank correlations average only 0.52, and transcript-level differences common across providers account for only 34% of total score variation. Cross-model disagreement does not predict subsequent analyst or market disagreement, consistent with a substantial model-specific component rather
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית