כתבה
arXiv cs.CL ·
MLLMs Hallucinates כאשר התפוצה של המידע נדדה בראשיות
MLLMs Hallucinate when Information Distribution Drifts in Synergy Heads
מודלי שפה גדולי-מודל (MLLMs) נוטים להתחלקות כאשר התפוצה של המידע נדדה בראשיות. חוקרים פיתחו פתרון לבעיה זו, המכונה HEAL, שמטרתו לזהות ולמנוע התחלקות. HEAL עובד על ידי ניתוח ראשיות המודל ובחירת הראשיות המועדפות. המחקר נערך על ידי צוות מחקר באוניברסיטת [Gemini] והתפרסם בארכיון arXiv.
תקציר מקורי באנגליתarXiv:2609.09206v1 Announce Type: cross Abstract: Multimodal Large Language Models (MLLMs) often struggle with hallucinations, thus hindering their reliable practical applications. Existing attention-based mitigation methods mainly rely on indirect signals (e.g., attention weights) that fail to accurately reflect the actual information shift underlying hallucination generation. In this paper, we propose HEAL, Head-lEvel information disentAnglement and caLibration for identifying and mitigating hallucinations. HEAL first employs causal noise intervention on multi-head outputs to filter out causally redundant heads. Subsequently, it disentangles information distribution within the remaining heads via the counterfactual Difference-in-Differences, categorizing heads into four types. Through an
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית