We introduce CatNet, an algorithm that effectively controls False Discovery Rate (FDR) and selects significant features in LSTM. CatNet employs the derivative of SHAP values to quantify the feature importance, and constructs a vector-formed mirror statistic for FDR control with the Gaussian Mirror algorithm. To avoid instability due to nonlinear or temporal correlations among features, we also propose a new kernel-based independence measure. CatNet performs robustly on different model settings with both simulated and real-world data, which reduces overfitting and improves interpretability of the model. Our framework that introduces SHAP for feature importance in FDR control algorithms and improves Gaussian Mirror can be naturally extended to other time-series or sequential deep learning models.


翻译:我们提出CatNet算法,该算法能够有效控制LSTM中的错误发现率(FDR)并筛选重要特征。CatNet利用SHAP值的导数量化特征重要性,结合高斯镜像算法构建向量形式的镜像统计量以实现FDR控制。为解决特征间非线性或时序相关性导致的算法不稳定性,我们进一步提出基于核函数的独立性度量新方法。在模拟数据和真实数据集上,CatNet在不同模型配置下均展现出稳健性能,能够有效降低过拟合风险并提升模型可解释性。本框架通过引入SHAP实现FDR控制算法中的特征重要性建模,并改进高斯镜像方法,可自然扩展至其他时间序列或序列深度学习模型。

0
下载
关闭预览

相关内容

PointNet系列论文解读
人工智能前沿讲习班
17+阅读 · 2019年5月3日
深度学习基础之LSTM
全球人工智能
29+阅读 · 2017年12月18日
阿里流行音乐趋势预测-深度学习LSTM网络实现代码分享
机器学习研究会
11+阅读 · 2017年12月5日
推荐|caffe-orc主流ocr算法:CNN+BLSTM+CTC架构实现!
全球人工智能
19+阅读 · 2017年10月29日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
VIP会员
最新内容
战争不仅需要机器人:人类仍不可或缺
专知会员服务
3+阅读 · 9月21日
《描绘美国防部创新基础设施的未来蓝图》100页
相关VIP内容
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员