Commonsense reasoning aims to empower machines with the human ability to make presumptions about ordinary situations in our daily life. In this paper, we propose a textual inference framework for answering commonsense questions, which effectively utilizes external, structured commonsense knowledge graphs to perform explainable inferences. The framework first grounds a question-answer pair from the semantic space to the knowledge-based symbolic space as a schema graph, a related sub-graph of external knowledge graphs. It represents schema graphs with a novel knowledge-aware graph network module named KagNet, and finally scores answers with graph representations. Our model is based on graph convolutional networks and LSTMs, with a hierarchical path-based attention mechanism. The intermediate attention scores make it transparent and interpretable, which thus produce trustworthy inferences. Using ConceptNet as the only external resource for Bert-based models, we achieved state-of-the-art performance on the CommonsenseQA, a large-scale dataset for commonsense reasoning.


翻译:常识推理旨在赋予人类能力对日常生活中的普通情况作出推定的机器以权力。在本文中,我们提议了一个用于回答常识问题的文字推理框架,该框架有效利用外部结构化的常识知识图表来进行可以解释的推理。框架首先将语义空间的问答配对作为基于知识的象征空间的系统图,一个相关的外部知识图子图。它代表了带有名为KagNet的新颖知识觉察图网络模块的系统图,最后以图表表示的评分答案。我们的模型以图表相联网络和LSTMs为基础,以分级路径关注机制为基础。中间的计分数使得它具有透明度和可解释性,从而产生可信赖的推理。用概念网作为以伯特为基础的模型的唯一外部资源,我们在ComesenseQA上实现了最先进的表现,这是用于常识推理的大规模数据集。

10
下载
关闭预览

相关内容

《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
17篇必看[知识图谱Knowledge Graphs] 论文@AAAI2020
内涵网络嵌入:Content-rich Network Embedding
我爱读PAMI
4+阅读 · 2019年11月5日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
论文浅尝 | 基于Universal Schema与Memory Network的知识+文本问答
「知识表示学习」专题论文推荐 | 每周论文清单
论文浅尝 | Leveraging Knowledge Bases in LSTMs
开放知识图谱
6+阅读 · 2017年12月8日
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
可解释的CNN
CreateAMind
18+阅读 · 2017年10月5日
Arxiv
15+阅读 · 2019年9月11日
Arxiv
8+阅读 · 2018年3月17日
VIP会员
最新内容
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
1+阅读 · 18分钟前
基于声学的无人机检测技术综述
专知会员服务
2+阅读 · 30分钟前
《当代混合战争分析框架:俄乌战争经验教训》
专知会员服务
2+阅读 · 56分钟前
战略前沿人工智能的再思考(中文)
专知会员服务
7+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
5+阅读 · 5月29日
“史诗怒火行动”中美军损失的作战飞机
专知会员服务
6+阅读 · 5月29日
ICML 2026 | 理解上下文持续学习中的泛化与遗忘
专知会员服务
5+阅读 · 5月28日
Agent Harness综述:大模型智能体执行器工程全景
专知会员服务
15+阅读 · 5月28日
相关VIP内容
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
32+阅读 · 2019年10月17日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
相关资讯
17篇必看[知识图谱Knowledge Graphs] 论文@AAAI2020
内涵网络嵌入:Content-rich Network Embedding
我爱读PAMI
4+阅读 · 2019年11月5日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
无监督元学习表示学习
CreateAMind
27+阅读 · 2019年1月4日
论文浅尝 | 基于Universal Schema与Memory Network的知识+文本问答
「知识表示学习」专题论文推荐 | 每周论文清单
论文浅尝 | Leveraging Knowledge Bases in LSTMs
开放知识图谱
6+阅读 · 2017年12月8日
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
可解释的CNN
CreateAMind
18+阅读 · 2017年10月5日
Top
微信扫码咨询专知VIP会员