许多人工智能应用需人类与AI顾问协同决策,但其成效取决于人类对AI代理的依赖是否适度。我们通过"四连棋"策略游戏平台,采用不同技能水平的神经网络代理,验证了一种评估方法。实验中,我们操控AI建议的存在性、呈现顺序、技能水平及信息展示方式(对手AI的技能水平有时变化),以测量其对用户表现的影响。

结果显示,获得AI建议的人类代理团队表现优于无辅助受试者,其中实时接收AI建议者取得最佳成绩。尽管团队表现更优且受试者在游戏过程中有所提升,但鲜有证据表明他们从AI顾问处习得策略。AI可靠性被证实为团队表现的核心决定因素——即使环境多变,受试者仍对高技能顾问保持信任。数学素养较高者展现最强AI建议运用能力,包括解析含选项排名与概率的详细输出格式。

高可靠性AI代理与高信任度正相关,而过度自信则导致更多拒绝建议、更高成功预期但实际表现略降。此类人机团队的效能取决于三大要素:AI可靠性、用户从建议中提炼洞见的能力,以及用户对建议的信任度。部署人机团队的组织需开展测试,评估用户对AI建议的合理依赖程度。

成为VIP会员查看完整内容
28

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《基于图计算的多机器人协调与协作​​》139页
专知会员服务
41+阅读 · 2025年4月19日
《用于自主网络行动的竞争性强化学习》113页
专知会员服务
28+阅读 · 2025年1月12日
《在军事仿真环境中优化人工智能算法》最新73页
专知会员服务
34+阅读 · 2024年11月12日
《生成式人工智能和情报评估》
专知会员服务
89+阅读 · 2024年7月22日
《基于特质的多机器人协调建模》191页
专知会员服务
43+阅读 · 2024年6月10日
《基于信念的决策建模计算框架》141页
专知会员服务
70+阅读 · 2024年4月27日
《基于智能体的情境识别系统》148页
专知会员服务
51+阅读 · 2024年4月12日
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
83+阅读 · 2023年3月26日
Arxiv
182+阅读 · 2023年3月24日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
BES:让语言模型通过双向进化搜索自我改进
专知会员服务
1+阅读 · 5月30日
以色列-美国-伊朗战争中的无人机:关键要点
专知会员服务
3+阅读 · 5月30日
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
8+阅读 · 5月30日
基于声学的无人机检测技术综述
专知会员服务
5+阅读 · 5月30日
《当代混合战争分析框架:俄乌战争经验教训》
战略前沿人工智能的再思考(中文)
专知会员服务
7+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
5+阅读 · 5月29日
相关VIP内容
《基于图计算的多机器人协调与协作​​》139页
专知会员服务
41+阅读 · 2025年4月19日
《用于自主网络行动的竞争性强化学习》113页
专知会员服务
28+阅读 · 2025年1月12日
《在军事仿真环境中优化人工智能算法》最新73页
专知会员服务
34+阅读 · 2024年11月12日
《生成式人工智能和情报评估》
专知会员服务
89+阅读 · 2024年7月22日
《基于特质的多机器人协调建模》191页
专知会员服务
43+阅读 · 2024年6月10日
《基于信念的决策建模计算框架》141页
专知会员服务
70+阅读 · 2024年4月27日
《基于智能体的情境识别系统》148页
专知会员服务
51+阅读 · 2024年4月12日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
19+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员