The emergence of agentic AI marks a new phase in the digital transformation of healthcare. Distinct from conventional generative AI, agentic AI systems are capable of autonomous, goal-directed actions and complex task coordination. They promise to support or even collaborate with clinicians and patients in increasingly independent ways. While agentic AI raises familiar moral concerns regarding safety, accountability, and bias, this article focuses on a less explored dimension: its capacity to transform the moral fabric of healthcare itself. Drawing on the framework of techno-moral change and the three domains of decision, relation and perception, we investigate how agentic AI might reshape the patient-physician relationship and reconfigure core concepts of medical morality. We argue that these shifts, while not fully predictable, demand ethical attention before widespread deployment. Ultimately, the paper calls for integrating ethical foresight into the design and use of agentic AI.


翻译:代理式AI的出现标志着医疗健康领域数字化转型进入新阶段。与传统的生成式AI不同,代理式AI系统能够执行自主的、目标导向的行动并进行复杂的任务协调。它们有望以日益独立的方式支持甚至协同临床医生和患者开展工作。尽管代理式AI引发了关于安全性、责任归属和偏见等常见的道德关切,但本文聚焦于一个较少被探讨的维度:其改变医疗健康领域自身道德结构的能力。借鉴技术-道德变革理论框架以及决策、关系和感知三个分析域,我们探究代理式AI如何可能重塑医患关系并重构医疗道德的核心概念。我们认为,尽管这些转变尚无法完全预测,但在广泛部署之前亟需伦理层面的审慎关注。本文最终呼吁将伦理前瞻性融入代理式AI的设计与应用之中。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
中国AI Agent行业研究报告(二)
专知会员服务
47+阅读 · 2025年3月13日
《代理型人工智能全面指南》,45页ppt
专知会员服务
61+阅读 · 2025年2月12日
《医疗领域中的具身人工智能综述:技术、应用与机会》
《医学中的生成式人工智能》
专知会员服务
45+阅读 · 2024年12月16日
人工智能与数字技术驱动医药产业升级,52页pdf
专知会员服务
55+阅读 · 2024年4月14日
医疗人工智能发展现状及展望
专知会员服务
83+阅读 · 2022年4月11日
【AI与医学】多模态机器学习精准医疗健康
【综述】医疗可解释人工智能综述论文
专知
33+阅读 · 2019年7月18日
人工智能与机器学习技术在医疗保健行业中的应用
深度学习与NLP
12+阅读 · 2018年3月25日
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2月12日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
23+阅读 · 2016年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员