In this paper, we present a unified framework for various bio-inspired models to better understand their structural and functional differences. We show that liquid-capacitance-extended models lead to interpretable behavior even in dense, all-to-all recurrent neural network (RNN) policies. We further demonstrate that incorporating chemical synapses improves interpretability and that combining chemical synapses with synaptic activation yields the most accurate and interpretable RNN models. To assess the accuracy and interpretability of these RNN policies, we consider the challenging lane-keeping control task and evaluate performance across multiple metrics, including turn-weighted validation loss, neural activity during driving, absolute correlation between neural activity and road trajectory, saliency maps of the networks' attention, and the robustness of their saliency maps measured by the structural similarity index.


翻译:本文提出一个统一的框架,用于分析各类生物启发模型,以更好地理解其结构与功能差异。我们证明,即使在密集的全连接循环神经网络(RNN)策略中,液体-电容扩展模型也能产生可解释的行为。我们进一步表明,引入化学突触能提升模型的可解释性,而将化学突触与突触激活相结合可得到最精确且可解释的RNN模型。为评估这些RNN策略的准确性与可解释性,我们以具有挑战性的车道保持控制任务为测试场景,并通过多维度指标进行性能评估,包括转向加权验证损失、驾驶过程中的神经活动、神经活动与道路轨迹的绝对相关性、网络注意力的显著图,以及通过结构相似性指数衡量的显著图鲁棒性。

0
下载
关闭预览

相关内容

具有动能的生命体。
流匹配在生物学与生命科学中的应用综述
专知会员服务
16+阅读 · 2025年7月25日
【MIT博士论文】物理启发的生成式模型
专知会员服务
35+阅读 · 2024年9月6日
可解释的机器学习模型和架构
专知会员服务
92+阅读 · 2023年9月17日
PubMed GPT : 用于生物医学文本的特定领域大型语言模型
专知会员服务
38+阅读 · 2022年12月19日
Attention!注意力机制模型最新综述
专知
65+阅读 · 2019年4月8日
干货 | 深入理解深度学习中的激活函数
计算机视觉life
16+阅读 · 2019年1月29日
Attention模型方法综述 | 多篇经典论文解读
PaperWeekly
107+阅读 · 2018年6月11日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
完全图解RNN、RNN变体、Seq2Seq、Attention机制
AI研习社
13+阅读 · 2017年9月5日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员