Human decision-making is strongly influenced by cognitive biases, particularly under conditions of uncertainty and risk. While prior work has examined bias in single-step decisions with immediate outcomes and in human interaction with a single autonomous agent, comparatively little attention has been paid to decision-making under delayed outcomes involving multiple AI agents, where decisions at each step affect subsequent states. In this work, we study how delayed outcomes shape decision-making and responsibility attribution in a multi-agent human-AI task. Using a controlled game-based experiment, we analyze how participants adjust their behavior following positive and negative outcomes. We observe asymmetric responses to gains and losses, with stronger corrective adjustments after negative outcomes. Importantly, participants often fail to correctly identify the actions that caused failure and misattribute responsibility across AI agents, leading to systematic revisions of decisions that are weakly related to the underlying causes of poor performance. We refer to this phenomenon as a form of attribution bias, manifested as biased error attribution under delayed feedback. Our findings highlight how cognitive biases can be amplified in human-AI systems with delayed outcomes and multiple autonomous agents, underscoring the need for decision-support systems that better support causal understanding and learning over time.


翻译:人类决策深受认知偏差的影响,尤其在不确定性和风险条件下。先前研究探讨了即时结果下单步决策中的偏差,以及人类与单个自主智能体交互中的偏差,但相对而言,很少关注涉及多个AI智能体且决策每一步都影响后续状态的延迟结果下的决策过程。在本工作中,我们研究了延迟结果如何塑造多智能体人机任务中的决策与责任归因。通过一项受控的基于游戏的实验,我们分析了参与者在面对正负结果时如何调整其行为。我们观察到对收益和损失的不对称反应,即在负结果后会有更强的修正性调整。重要的是,参与者常常无法正确识别导致失败的行动,并在AI智能体间错误地归因责任,从而导致系统地修订那些与导致绩效差的根本原因关联较弱的决策。我们将此现象称为一种归因偏差的表现,即在延迟反馈下表现为有偏的错误归因。我们的发现强调了认知偏差如何在具有延迟结果和多个自主智能体的人机系统中被放大,凸显了需要更好地支持因果理解和随时间学习的决策支持系统。

0
下载
关闭预览

相关内容

《不确定通信条件下的分布式多智能体决策》122页
专知会员服务
59+阅读 · 2025年2月26日
基于因果推断的推荐系统去偏研究
专知会员服务
21+阅读 · 2024年11月10日
人工智能军事决策支持系统中的算法偏见问题
专知会员服务
35+阅读 · 2024年9月11日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
FCS 论坛 | 孟德宇:误差建模原理
FCS
15+阅读 · 2017年8月17日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Arxiv
0+阅读 · 3月20日
VIP会员
最新内容
反制无人机:乌克兰提供的五点启示
专知会员服务
4+阅读 · 9月23日
《各指挥层级均亟需红队能力》报告
专知会员服务
6+阅读 · 9月23日
《航电任务系统框架(FAMOS)》50页报告
专知会员服务
4+阅读 · 9月22日
《对抗行动中的人工智能与自主性》智库报告
专知会员服务
7+阅读 · 9月22日
《从数据到胜利:战争中的分析优势之争》
专知会员服务
10+阅读 · 9月22日
战争不仅需要机器人:人类仍不可或缺
专知会员服务
5+阅读 · 9月21日
《描绘美国防部创新基础设施的未来蓝图》100页
专知会员服务
10+阅读 · 9月21日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
国家自然科学基金
50+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员