כתבה
arXiv cs.AI ·
הסברת מודלי AI מורכבים
Explainability of Complex AI Models with Correlation Impact Ratio
ExCIR הוא מדד פשוט ואמין להסברת תרומת תכונות קלט לפלטי מודל. הוא תומך בניתוח נתונים רב-ממדיים ומספק הסברים טובים יותר משיטות קיימות. ExCIR מבוסס על יסודות תאורטיים ומאפשר הסברים רב-פלט ומותנים במחלקה.
תקציר מקורי באנגליתarXiv:2601.06701v2 Announce Type: replace-cross Abstract: Complex AI systems make better predictions but often lack transparency, limiting trustworthiness, interpretability, and safe deployment. Common post hoc AI explainers, such as LIME, SHAP, HSIC, and SAGE, are model agnostic but are too restricted in one significant regard: they tend to misrank correlated features and require costly perturbations, which do not scale to high dimensional data. We introduce ExCIR (Explainability through Correlation Impact Ratio), a theoretically grounded, simple, and reliable metric for explaining the contribution of input features to model outputs, which remains stable and consistent under noise and sampling variations. We demonstrate that ExCIR captures dependencies arising from correlated features thr
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית