יום ראשון, 4 באוקטובר 2026 LIVE
AI־INFO

כתבה arXiv cs.LG ·

בעייתי, אבל רגיש? רובוסטנסיית צינורות רעיוניים תחת פגיעות גאומטריות-סמנטיות

Interpretable but Fragile? Robustness of Concept Bottlenecks under Geometric-Semantic Perturbations
מחקר חדש מבקר את רובוסטנסיית צינורות רעיוניים (Concept Bottleneck Models) תחת פגיעות גאומטריות-סמנטיות. המאמר חושף כי צינורות אלה, שנועדו לספק תיאורים מובנים, אינם תמיד משפרים את הרובוסטנסייה. במקום זאת, הם עוברים את הסבילות לפגיעות שונות, ומחליפים את הסבילות לפגיעות אחרות. זהו ניצב-פרגמנטיות חדש, המצביע על כך שהבנה ורובוסטנסייה הן מטרות שונות.
תקציר מקורי באנגליתarXiv:2609.38625v1 Announce Type: new Abstract: Concept Bottleneck Models (CBMs) are designed to provide interpretable intermediate representations, yet how such bottlenecks affect robustness remains unclear, with existing studies reporting mixed and sometimes contradictory findings. We argue that these discrepancies arise from conflating different robustness notions and perturbation regimes, rather than from fundamental disagreements about CBMs themselves. To disentangle these factors, we introduce a generator-based evaluation framework that enables controlled comparisons between standard classifiers and CBMs under two distinct perturbation types: continuous geometric perturbations in latent space and discrete semantic interventions in concept space. Within this framework, we evaluate rob
קרא במקור המקורי