Anthropomorphic design is routinely used to make conversational agents more approachable and engaging. Yet its influence on users' perceptions remains poorly understood. Drawing on psychological theories, we propose that anthropomorphism influences risk perception via two complementary forms of trust, and that domain knowledge moderates these relationships. To test our model, we conducted a large-scale online experiment (N = 1,256) on a financial decision-support system implementing different anthropomorphic designs. We found that anthropomorphism indirectly reduces risk perception by increasing both cognitive and affective trust. Domain knowledge moderates these paths: participants with low financial knowledge experience a negative indirect effect of perceived anthropomorphism on risk perception via cognitive trust, whereas those with high financial knowledge exhibit a positive direct and indirect effect. We discuss theoretical contributions to human-AI interaction and design implications for calibrating trust in anthropomorphic decision-support systems for responsible AI.


翻译:拟人化设计常被用于提升对话代理的亲和力与吸引力,但其对用户感知的影响机制尚不明确。基于心理学理论,我们提出拟人化通过认知信任与情感信任两种互补的信任形式影响风险感知,且领域知识对上述关系具有调节作用。为验证模型,我们在采用不同拟人化设计的金融决策支持系统中开展了大规模在线实验(N = 1,256)。研究发现:拟人化通过同时增强认知信任与情感信任,间接降低风险感知。领域知识调节这些路径:金融知识水平较低的参与者通过认知信任路径经历拟人化感知对风险感知的负向间接影响,而高金融知识参与者则表现出正向的直接与间接影响。本文讨论了该发现对人机交互理论建设的贡献,并为负责任人工智能领域校准拟人化决策支持系统的信任机制提供了设计启示。

0
下载
关闭预览

相关内容

认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
13+阅读 · 2025年8月16日
人工智能对指控领域的影响
专知会员服务
42+阅读 · 2024年10月18日
基于人机智能融合技术的态势感知应用研究
专知会员服务
95+阅读 · 2024年2月11日
专知会员服务
31+阅读 · 2021年2月7日
「知识增强预训练语言模型」最新研究综述
专知
18+阅读 · 2022年11月18日
数据驱动的态势认知技术及发展思考
专知
18+阅读 · 2022年7月12日
多模态情绪识别研究综述
专知
25+阅读 · 2020年12月21日
【智能金融】机器学习在反欺诈中应用
产业智能官
35+阅读 · 2019年3月15日
金融风控背后的技术综述
七月在线实验室
45+阅读 · 2019年2月28日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关资讯
「知识增强预训练语言模型」最新研究综述
专知
18+阅读 · 2022年11月18日
数据驱动的态势认知技术及发展思考
专知
18+阅读 · 2022年7月12日
多模态情绪识别研究综述
专知
25+阅读 · 2020年12月21日
【智能金融】机器学习在反欺诈中应用
产业智能官
35+阅读 · 2019年3月15日
金融风控背后的技术综述
七月在线实验室
45+阅读 · 2019年2月28日
人工智能对网络空间安全的影响
走向智能论坛
21+阅读 · 2018年6月7日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员