כתבה
arXiv cs.LG ·
STEREODISCO: גילוי סטריאוטיפים ב-LLMs
STEREODISCO: Discovering Stereotypicality in LLMs
STEREODISCO - פלטפורמה לחקר סטריאוטיפים ב-LLMs. המחקר משתמש במתודולוגיה של השפה הסמנטית כדי לגלות סטריאוטיפים ב-LLMs. המחקר מצא כי LLMs חולקים דעות על קבוצות חברתיות יותר עם עצמם מאשר עם בני אדם.
תקציר מקורי באנגליתarXiv:2607.27824v1 Announce Type: cross Abstract: LLMs encode, convey, and perpetuate stereotypes. Prior computational research focuses on a small set of semantic axes investigated in social psychology, and operates on word embeddings produced by language models, leaving open which other semantic axes carry stereotypical associations in LLMs and how LLMs internally represent such axes. We introduce STEREODISCO, a framework that adapts the semantic differential method (Osgood et al., 1957) to the systematic study of stereotypes in LLM internal representations. STEREODISCO constructs approx. 2,000 candidate semantic axes from WordNet antonym synsets, recovers each as a geometric axis in the LLM's activation space via probing, and identifies stereotypical axes via a statistical test over conc
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית