כתבה
arXiv cs.AI ·
בעיות רגישות: רובוסטנסיית קונספט בוטלנקס תחת פרטורבציות גאומטרי-שמי
Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
מאמר חדש חוקר את רובוסטנסיית קונספט בוטלנקס תחת פרטורבציות גאומטרי-שמי. המחקר מציג תוצאות שמראות שקונספט בוטלנקס עשוי להשפיע על רובוסטנסיית המודל, אך לא באופן יחיד.
תקציר מקורי באנגליתarXiv:2609.38625v1 Announce Type: cross Abstract: Concept Bottleneck Models (CBMs) are designed to provide interpretable intermediate representations, yet how such bottlenecks affect robustness remains unclear, with existing studies reporting mixed and sometimes contradictory findings. We argue that these discrepancies arise from conflating different robustness notions and perturbation regimes, rather than from fundamental disagreements about CBMs themselves. To disentangle these factors, we introduce a generator-based evaluation framework that enables controlled comparisons between standard classifiers and CBMs under two distinct perturbation types: continuous geometric perturbations in latent space and discrete semantic interventions in concept space. Within this framework, we evaluate r
קרא במקור המקורי
arxiv.org
פתח כתבה מקורית