基于生成式人工智能(Generative AI)的决策支持系统正逐步引入能源行业的控制室,其操作失误可能导致严重后果。本研究探讨组织结构与治理机制如何影响生成式人工智能决策支持系统在安全关键型能源控制室中的负责任采纳与有效运行,基于对丹麦与德国两名能源行业从业者及阿伯丁大学一名人工智能安全研究员的三次半结构化访谈,采用反思性主题分析法进行研究。研究得出四项核心发现:对操作型人工智能的信任水平在部署前即已形成;吸收能力是实现恰当依赖的前提条件,且该条件位于操作员培训与治理机制建设之前;集成失败本质上属于治理层面的问题;技能退化构成组织层面的治理风险。上述发现具有探索性性质,基于三名受访者的目的性抽样,尚需更广泛的实证研究予以验证。这些发现支持一种治理准备模型,即负责任且有效的集成必须依次实现技术准备、组织准备与治理准备三个阶段,组织必须在开展实际运行前解决治理前提条件。

本论文其余部分结构如下:第二章综述现有文献,涵盖自动化中的信任校准、安全关键型行业的人机交互以及生成式人工智能部署中的治理挑战,最终明确本研究旨在填补的学术空白。第三章概述技术背景,分析适用于能源控制室环境的生成式人工智能决策支持系统的架构与运行特征。第四章介绍研究方法,详细说明定性研究设计、数据收集方式、分析框架及伦理考量。第五章呈现实证分析结果,报告自五项分析维度中提炼出的主题。第六章探讨研究发现对部署人工智能于安全关键型情境下的组织与业务层面的影响。第七章进行讨论,将实证发现与既有文献及分析命题相联系。第八章总结本研究的核心贡献,并提出未来研究的方向。

成为VIP会员查看完整内容
3

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《高压决策环境中的人机协作》200页博士论文
专知会员服务
36+阅读 · 1月1日
《人工智能在决策中角色的演变》最新278页
专知会员服务
59+阅读 · 2025年4月25日
《信任与人机协作》128页论文
专知会员服务
52+阅读 · 2023年11月22日
《人机协同的指挥和控制》美军84页论文
专知会员服务
75+阅读 · 2023年9月15日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
138+阅读 · 2023年7月31日
人工智能和军备控制,80页pdf
专知
16+阅读 · 2022年11月2日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
VIP会员
最新内容
“史诗怒火”行动:现代多域作战的重要节点
专知会员服务
4+阅读 · 今天5:05
《下一代无线网络中的多无人机通信资源管理》
专知会员服务
4+阅读 · 今天5:00
《同步多无人机系统中的故障与通信》
专知会员服务
4+阅读 · 7月29日
面向国防作战的最佳自主与蜂群无人机技术
专知会员服务
7+阅读 · 7月28日
相关基金
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员