כתבה
arXiv cs.AI ·
התקלה בעדפות קבוצתית במודלי שפה גדולים מותאמים למשתמש
Group Preference Collapse in Personalized Multimodal Large Language Models
מודלי שפה גדולים מותאמים למשתמש, המעבדים נתונים מרובדיים, נפגעים מהתקלה בעדפות קבוצתית. המחברים הציגו פרוטוטיפ המפריד בין מידע פרופילי ונציגות עדפות, והציעו פתרון לבעיית העדפות.
תקציר מקורי באנגליתarXiv:2607.22603v2 Announce Type: replace Abstract: Personalized multimodal large language models (MLLMs) aim to generate user-specific responses, but existing methods mainly rely on profile-level information and overlook diverse user preferences. We identify group preference collapse, where multi-user personalized MLLMs become insensitive to individual preferences and drift toward dominant population-level choices due to suppressed preference signals and unreliable preference use during generation. We propose PrefMoE, a preference-centric framework that separates stable profile information from preference-related representations. PrefMoE decomposes preferences into shared prototypes and personalized residuals, preserves individualized residuals with imbalance-aware learning, counterfactua
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית