Automated maritime collision avoidance will rely on human supervision for the foreseeable future. This necessitates transparency into how the system perceives a scenario and plans a maneuver. However, the causal logic behind avoidance maneuvers is often complex and difficult to convey to a navigator. This paper explores how to explain these factors in a selective, understandable manner for supervisors with a nautical background. We propose a method for generating contrastive explanations, which provide human-centric insights by comparing a system's proposed solution against relevant alternatives. To evaluate this, we developed a framework that uses visual and textual cues to highlight key objectives from a state-of-the-art collision avoidance system. An exploratory user study with four experienced marine officers suggests that contrastive explanations support the understanding of the system's objectives. However, our findings also reveal that while these explanations are highly valuable in complex multi-vessel encounters, they can increase cognitive workload, suggesting that future maritime interfaces may benefit most from demand-driven or scenario-specific explanation strategies.


翻译:在可预见的未来,自动化的海上避碰仍将依赖人类监督。这要求系统在感知场景和规划机动时具备透明度。然而,避碰机动背后的因果逻辑往往复杂且难以向航海员传达。本文探讨了如何以选择性、可理解的方式向具有航海背景的监督者解释这些因素。我们提出了一种生成对比解释的方法,通过将系统提出的解决方案与相关备选方案进行对比,提供以人为中心的洞察。为评估该方法,我们开发了一个框架,利用视觉和文本线索突出显示最先进避碰系统的关键目标。一项与四位资深海事官员进行的探索性用户研究表明,对比解释有助于理解系统的目标。然而,我们的发现也揭示,尽管这些解释在复杂的多船遭遇场景中极具价值,但它们可能增加认知负荷,这表明未来的海上界面可能更受益于需求驱动或场景特定的解释策略。

0
下载
关闭预览

相关内容

《基于大语言模型的避障决策和自主水面航行器控制》
专知会员服务
35+阅读 · 2024年12月5日
可解释人工智能中的对抗攻击和防御
专知会员服务
43+阅读 · 2023年6月20日
万字译文《海战中实施人工智能的挑战》2023最新报告
专知会员服务
203+阅读 · 2023年5月6日
人工智能技术在船舶领域中的应用综述
专知会员服务
57+阅读 · 2023年4月22日
用于自主船舶态势感知的传感器和人工智能技术综述
专知会员服务
68+阅读 · 2022年10月22日
对比自监督学习
深度学习自然语言处理
35+阅读 · 2020年7月15日
人工智能时代智能化海战模式
科技导报
21+阅读 · 2019年7月5日
最新人机对话系统简略综述
专知
26+阅读 · 2018年3月10日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
26+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2012年12月31日
Arxiv
0+阅读 · 4月20日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
学习数据的几何:形状空间分析数学综述
专知会员服务
10+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
12+阅读 · 6月17日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
26+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员