Functional ANOVA offers a principled framework for interpretability by decomposing a model's prediction into main effects and higher-order interactions. For independent features, this decomposition is well-defined, strongly linked with SHAP values, and serves as a cornerstone of additive explainability. However, the lack of an explicit closed-form expression for general dependent distributions has forced practitioners to rely on costly sampling-based approximations. We completely resolve this limitation for categorical inputs. By bridging functional analysis with the extension of discrete Fourier analysis, we derive a closed-form decomposition without any assumption. Our formulation is computationally very efficient. It seamlessly recovers the classical independent case and extends to arbitrary dependence structures, including distributions with non-rectangular support. Furthermore, leveraging the intrinsic link between SHAP and ANOVA under independence, our framework yields a natural generalization of SHAP values for the general categorical setting.


翻译:函数方差分析(Functional ANOVA)通过将模型预测分解为主效应和高阶交互作用,为可解释性提供了原则性框架。对于独立特征,该分解具有明确形式,与SHAP值紧密关联,并作为加性可解释性的基石。然而,针对一般相关分布缺乏显式闭式解这一缺陷,迫使从业者依赖高成本采样近似方法。我们针对分类输入完全解决了该局限性。通过将泛函分析与离散傅里叶分析的扩展相结合,我们在无任何假设条件下推导出闭式分解。我们的公式具有极高的计算效率,既能无缝恢复经典独立情形,又能扩展到任意依赖结构(包括非矩形支撑的分布)。此外,利用SHAP与ANOVA在独立性条件下的内在联系,我们的框架为一般分类设置下SHAP值的自然推广提供了理论支撑。

0
下载
关闭预览

相关内容

《多源导航架构的协方差分析》美国空军2022最新101页论文
【NeurIPS2022】可解释机器学习的安全性:一种最大偏差方法
【机器学习】深入剖析机器学习中的统计思想
产业智能官
17+阅读 · 2019年1月24日
用模型不确定性理解模型
论智
11+阅读 · 2018年9月5日
数据分析师应该知道的16种回归技术:分位数回归
数萃大数据
29+阅读 · 2018年8月8日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
1+阅读 · 54分钟前
定向能反无人机系统最新发展动态
专知会员服务
3+阅读 · 今天13:50
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
2+阅读 · 今天13:33
相关VIP内容
《多源导航架构的协方差分析》美国空军2022最新101页论文
【NeurIPS2022】可解释机器学习的安全性:一种最大偏差方法
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员