本文论证自主人工智能网络武器——军事人工智能网络智能体(MAICAs)——构成通往灾难性威胁的路径。它阐明MAICAs的技术可行性,解释地缘政治和网络空间特性如何使MAICAs成为灾难性威胁,并提出政治防御、人工智能防御及模拟系统韧性建设等措施以削弱该威胁。

人工智能风险倡导者与军事人工智能伦理学家均对军事人工智能网络智能体(MAICAs)——即自主规划执行网络行动的完全自主智能体——引发的失控威胁关注不足。必须通过以下措施预防MAICAs必然发展带来的相关威胁:1.采取防止扩散措施避免MAICAs落入不法行为体之手;2.开展防御性研究,开发可削弱不法MAICAs的反制能力;3.投资关键基础设施韧性建设与模拟系统冗余备份以限制不法MAICAs的破坏。

成为VIP会员查看完整内容
25

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《人工智能军事系统的风险分级监管路径》
专知会员服务
23+阅读 · 2025年7月10日
《基于深度学习模型的图像军事目标检测》
专知会员服务
31+阅读 · 2025年6月28日
《基于自然语言的人工智能军事决策支持》
专知会员服务
153+阅读 · 2024年1月25日
《可靠且可扩展的军事物联网架构》
专知会员服务
83+阅读 · 2023年8月7日
《多域作战环境下的军事决策过程》
专知
114+阅读 · 2023年4月12日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
国家自然科学基金
15+阅读 · 2012年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
83+阅读 · 2023年3月26日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
17+阅读 · 2013年12月31日
国家自然科学基金
15+阅读 · 2012年12月31日
微信扫码咨询专知VIP会员