Bottom-up responsible innovation initiatives seek to empower technology development teams to engage in ethical reflection, yet such interventions frequently fail to achieve practitioner engagement. Why do some ethics interventions succeed while others are dismissed as irrelevant, adversarial, or disconnected from work? This paper proposes epistemic trust -- the degree to which practitioners regard an intervention, its facilitators, and its content as credible, relevant, and actionable -- as a conceptual model linking intervention design to engagement outcomes. Drawing on philosophical work on testimony and on practice-based qualitative analysis of over 70 moral imagination workshops with engineering teams between 2019 and 2025, we identify five dimensions of epistemic trust salient to ethics interventions (Relevance, Inclusivity, Agency, Authority, and Alignment) and present a typology of 23 failure modes that arise when these dimensions are inadequately addressed. We derive nine design principles for cultivating epistemic trust, grounded in our operationalisation of moral imagination through technomoral scenarios and structured deliberation. Our findings contribute to the literature on collaborative socio-technical integration by specifying conditions of uptake that existing frameworks leave undertheorised. We acknowledge limitations including selection effects from voluntary participation and the absence of formal outcome measures, and position our failure mode typology as practitioner hypotheses warranting further empirical validation.


翻译:自下而上的负责任创新举措旨在赋权技术开发团队参与伦理反思,然而此类干预措施常常难以实现从业者的实际参与。为何某些伦理干预能够成功,而另一些则被视为无关紧要、具有对抗性或与工作脱节?本文提出认知信任——即从业者视干预措施、其推动者及其内容为可信、相关且可行的程度——作为连接干预设计与参与结果的概念模型。借鉴关于证言的哲学研究,以及基于2019年至2025年间与工程团队开展的70余次道德想象工作坊的实践性定性分析,我们识别出伦理干预中认知信任的五个关键维度(相关性、包容性、能动性、权威性与一致性),并提出当这些维度处理不当时会出现的23种失败模式类型学。基于我们通过技术道德场景与结构化讨论对道德想象的操作化实践,我们推导出培养认知信任的九项设计原则。我们的研究成果通过具体说明现有框架理论化不足的采纳条件,为协作式社会技术整合领域的文献做出贡献。我们承认研究局限性,包括自愿参与带来的选择效应以及缺乏正式结果衡量指标,并将我们的失败模式类型学定位为有待进一步实证验证的实践者假设。

0
下载
关闭预览

相关内容

设计是对现有状的一种重新认识和打破重组的过程,设计让一切变得更美。
迈向可信的人工智能:伦理和稳健的大型语言模型综述
专知会员服务
39+阅读 · 2024年7月28日
《信任与人机协作》128页论文
专知会员服务
52+阅读 · 2023年11月22日
人工智能伦理计算
专知会员服务
39+阅读 · 2023年10月13日
数据驱动的态势认知技术及发展思考
专知
19+阅读 · 2022年7月12日
知识在检索式对话系统的应用
微信AI
32+阅读 · 2018年9月20日
AAAI 2018 行为识别论文概览
极市平台
18+阅读 · 2018年3月20日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
0+阅读 · 3月24日
VIP会员
最新内容
ICML 2026 | CFPO:用反事实策略优化提升多模态推理
专知会员服务
1+阅读 · 今天14:45
综述 | 世界动作模型:少做梦,多行动
专知会员服务
1+阅读 · 今天14:43
美以伊冲突:无人机与人工智能的运用
专知会员服务
3+阅读 · 今天14:31
《特种部队在透明战场中的生存力》最新报告
专知会员服务
2+阅读 · 今天14:11
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员