会员服务
任何机器学习模型的核心都有一个响应函数，它试图映射和解释独立（输入）变量和从属（目标或响应）变量之间的关系和模式。当模型预测或找到我们的见解时，需要做出某些决定和选择。模型解释试图理解和解释响应函数所做出的这些决策，即什么，为什么以及如何。模型解释的关键是透明度，质疑能力以及人类理解模型决策的难易程度。 解释性也通常被称为机器学习模型的人类可解释性解释（HII），是人类（包括非机器学习专家）能够理解模型在决策过程中所做出的选择的程度（如何，为什么和什么）。在比较模型时，除了模型性能之外，如果模型的决策比其他模型的决策更容易被人理解，那么模型被认为比其他模型具有更好的可解释性。
The Perceived Fragility of Explanations in Audio Models: Manipulation of Attribution with Unchanged Predictions
Arxiv
0+阅读 · 6月12日
The Neglected Baseline in Model Interpretation
Arxiv
0+阅读 · 5月26日
Right Predictions, Misleading Explanations: On the Vulnerability of Vision-Language Model Explanations
Arxiv
0+阅读 · 6月9日
Human Decision-Making with Persuasive and Narrative LLM Explanations
Arxiv
0+阅读 · 5月22日
Correcting Variable Importance Scored by Random Forests
Arxiv
0+阅读 · 6月9日
Explainable Artificial Intelligence Techniques for Interpretation of Food Models: a Review
Arxiv
0+阅读 · 4月27日
Support-Contra Asymmetry in LLM Explanations
Arxiv
0+阅读 · 4月2日
Use of What-if Scenarios to Help Explain Artificial Intelligence Models for Neonatal Health
Arxiv
0+阅读 · 4月28日
The Reliance Negotiation Framework: A Dynamic Process Model of Student LLM Engagement in Academic Writing
Arxiv
0+阅读 · 4月18日
Routing-Aware Explanations for Mixture of Experts Graph Models in Malware Detection
Arxiv
0+阅读 · 2月22日
Modelling Language using Large Language Models
Arxiv
0+阅读 · 3月11日
Translate Policy to Language: Flow Matching Generated Rewards for LLM Explanations
Arxiv
0+阅读 · 2月12日
Translate Policy to Language: Flow Matching Generated Rewards for LLM Explanations
Arxiv
0+阅读 · 2月11日
Training Language Models to Explain Their Own Computations
Arxiv
0+阅读 · 2月9日
Evaluating the Ability of Explanations to Disambiguate Models in a Rashomon Set
Arxiv
0+阅读 · 1月13日
参考链接
微信扫码咨询专知VIP会员
Top