arXiv cs.LG· Anna Mazhar, Sainyam Galhotra·· 3 小时前AI 评分24
CAFÉ：机器遗忘的因果黑盒测试方法
CAF\'E: Causal Black-Box Testing of Machine Unlearning
AI 导读
研究者提出 CAFÉ，一种基于规格的黑盒测试方法，仅利用已部署模型的预测结果，对特征进行干预并将变化传播至下游特征，从而检测预测是否仍受该特征影响。在两个因果网络基准、四种遗忘方法上，CAFÉ 以 0.92–0.93 的成对准确率对残余影响排序，而现有检查方法最高仅 0.71，且在两个方向上均会出错。在真实人口普查数据上，CAFÉ 同样揭示出经重训练后仍残留、却被直接输入检查忽略的影响。
来源：arXiv cs.LG · arxiv.org