We make three contributions in this paper. First, we present an approach for compiling a random forest classifier into a set of circuits, where each circuit directly encodes the instances in some class of the classifier. We show empirically that our proposed approach is significantly more efficient than existing similar approaches. Next, we utilize this approach to further obtain circuits that are tractable for computing the complete and general reasons of a decision, which are instance abstractions that play a fundamental role in computing explanations. Finally, we propose algorithms for computing the robustness of a decision and all shortest ways to flip it. We illustrate the utility of our contributions by using them to enumerate all sufficient reasons, necessary reasons and contrastive explanations of decisions; to compute the robustness of decisions; and to identify all shortest ways to flip the decisions made by random forest classifiers learned from a wide range of datasets.


翻译:本文提出三点贡献。首先,我们提出一种将随机森林分类器编译为电路集合的方法,其中每个电路直接编码分类器某个类别中的实例。实验表明,我们提出的方法比现有类似方法显著更高效。其次,利用该方法进一步获得可处理的电路,用于计算决策的完整与通用原因——这些实例抽象在计算解释中起着基础性作用。最后,我们提出计算决策鲁棒性及所有最短决策翻转路径的算法。通过将其应用于枚举决策的所有充分原因、必要原因与对比解释,计算决策鲁棒性,以及识别从广泛数据集中学习的随机森林分类器决策的所有最短翻转路径,我们展示了这些贡献的实用价值。

0
下载
关闭预览

相关内容

随机森林 指的是利用多棵树对样本进行训练并预测的一种分类器。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
可解释人工智能的基础
专知会员服务
32+阅读 · 2025年10月26日
人工智能(XAI)可解释性的研究进展!
专知会员服务
33+阅读 · 2024年6月12日
《可解释人工智能(XAI): 数据挖掘视角》最新综述
专知会员服务
54+阅读 · 2024年1月11日
面向电子战的可解释智能应用研究
专知会员服务
69+阅读 · 2023年10月14日
专知会员服务
81+阅读 · 2021年5月30日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
【干货书】贝叶斯推断随机过程,449页pdf
专知
30+阅读 · 2020年8月27日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
可解释AI(XAI)工具集—DrWhy
专知
25+阅读 · 2019年6月4日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月15日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员