כתבה
arXiv cs.LG ·
רעש מזויף את ההטיה
When Noise Fabricates Bias: The Fragility of LLM-as-a-Judge Bias Measurement under Noisy Text
מחקר חדש מראה כי רעש בטקסט יכול להשפיע על מדידת ההטיה של מודלי שפה גדולים. המחקר בדק חמישה תנאי רעש ריאליסטיים על 3,822 תגובות ומצא כי הרעש יכול ליצור הטיה שווא. המודלים שנבדקו כללו את LLaMA.
תקציר מקורי באנגליתarXiv:2609.11067v1 Announce Type: cross Abstract: Large language models are increasingly used as judges to measure social bias in text, yet the passages they judge are often noisy, containing typos, informal spelling, and broken punctuation. The consequences of such surface noise for social bias measurement remain unclear. To investigate this question, we apply five realistic noise conditions at multiple intensity levels to 3,822 stereotype-related responses and compare the resulting bias judgments with those on the original text. We find that such surface noise does not degrade bias measurement symmetrically: it is far more likely to turn neutral judgments into biased ones than biased judgments into neutral ones, by up to a 120x margin. We further observe two non-obvious effects across fo
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית