arXiv cs.AI· Ekkehard Schnoor, Jawher Said, Malik Tiomoko, Wojciech Samek, Alexander Jung·· 9 小时前AI 评分17
α-TCAV:概念激活向量测试的统一框架
$\alpha$-TCAV: A Unified Framework for Testing with Concept Activation Vectors
AI 导读
针对标准 TCAV 分数因使用不连续指示函数而不稳定的缺陷,研究者提出 α-TCAV 统一框架,用平滑函数替代不连续指示函数,并将 TCAV 作为其极限情形纳入其中。该框架在现实假设下刻画了分数分布并给出有原则的参数选择:一种参数在仅用单个 CAV 时即可匹配 Multi-TCAV 的均值且方差不大,另一种给出概念正向影响模型输出的校准概率。实验挑战了将采样预算分摊到多个 CAV 的既有做法。
来源:arXiv cs.AI · arxiv.org