本文认为,自主人工智能网络武器——军事人工智能网络代理——为灾难性风险开辟了一条可信的途径。文章阐述了军事人工智能网络代理的技术可行性,解释了地缘政治和网络空间的性质为何使军事人工智能网络代理成为一种灾难性风险,并提出了政治、防御性人工智能和模拟韧性措施以削弱此威胁。

人工智能风险倡导者和军事人工智能伦理学家都未对军事人工智能网络代理所带来的失控风险给予足够关注。主权国家必须采取以下措施,以预防军事人工智能网络代理必然发展所伴随的风险:1. 采取反扩散措施,避免军事人工智能网络代理落入恶意行为体之手;2. 开展防御性研究,以发展削弱恶意军事人工智能网络代理所需的对抗人工智能能力;3. 投资于关键基础设施韧性和模拟冗余,以限制恶意军事人工智能网络代理可能造成的损害。

成为VIP会员查看完整内容
22

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《人工智能军事系统的风险分级监管路径》
专知会员服务
23+阅读 · 2025年7月10日
《生成式人工智能和情报评估》
专知会员服务
90+阅读 · 2024年7月22日
《创新武器化?绘制欧盟人工智能安全与防务地图》
专知会员服务
37+阅读 · 2024年5月21日
《可靠且可扩展的军事物联网架构》
专知会员服务
83+阅读 · 2023年8月7日
【综述】生成式对抗网络GAN最新进展综述
专知
61+阅读 · 2019年6月5日
刘亚威 | 美国国防部数字工程战略解读(全文)
走向智能论坛
18+阅读 · 2019年4月10日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
24+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
83+阅读 · 2023年3月26日
Arxiv
182+阅读 · 2023年3月24日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
24+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员