人工智能的加速军事化已改变了战争的伦理、政治与治理。本文以以色列在加沙的行径为典型案例,审视人工智能驱动的目标识别系统如何作为对暴力进行分类、合法化和执行的认知基础设施。本文基于安全研究、批判性技术研究和国际法等跨学科辩论,提出了“算法种族灭绝”的概念——一种由技术媒介的灭绝模式,其中不透明的计算系统将大规模暴力自动化和合理化。研究认为,这些系统模糊了军事目标与民用目标、有意伤害与意外伤害之间的界限,从而侵蚀了规范战争的道德与法律框架。文章通过责任视角,审视了三个相互关联的维度:政治责任,探讨国家如何利用人工智能加速战争并逃避问责;专业责任,探讨技术人员、工程师和防务承包商在数据武器化中的共谋;以及个人责任,探究参与或抵抗算法治理的个体的道德能动性。文章还辅以对参与公共话语者的立场和影响力的审视,其叙事常常掩盖或使人工智能赋能暴力正常化。加沙的案例表明,人工智能并非中性工具,而是殖民等级结构再生产与暴行正常化的积极参与者。最终,本文呼吁在自动化战争时代重构技术能动性与问责制。结论认为,对抗算法暴力需要实现人工智能伦理的民主化——一种抵制技术官僚决定论、并以受高科技军国主义影响最深者的生活现实为中心的模式。

本文探讨了三个相互关联的问题。首先,审视了人工智能作为被国家利用以加速战争和加剧破坏的非国家行为者的角色。其次,深入探究了使罪行得以发生却无需担责的、治理失败的政治经济学。第三,试图剖析在日益被技术官僚化和安全化逻辑塑造的全球知识氛围中,批判性话语的侵蚀。尽管其中每一个问题都值得单独分析,但将它们结合起来并通过责任的视角来审视,能更深入地理解人工智能系统如何模糊军事与民用目标、或有意与无意伤害之间的界限,从而进一步削弱规范战争的法律与道德框架。此外,这些过程的自动化使国家行为体能够否认意图、将责任推卸给机器,并将大规模伤亡描绘为算法错误导致的悲剧性但非预期的后果。跨越媒体、政策和学术界的公共话语,常常未能实质性地探讨这种所谓技术进步的意涵,或主动地加以掩盖。这助长了人工智能驱动的军国主义更广泛的正常化。总之,这三个问题表明,加沙的案例是治理与技术伦理深度腐化的例证。

本文首先概述了围绕人工智能在现代战争中应用的主要辩论,以及适配加沙案例的理论与方法论考量,该案例揭示了军事逻辑令人不安的演进以及国家和非国家行为者的共谋。随后,文章依次探讨了三个核心问题:人工智能的角色、国家与非国家利益相关方的责任,以及参与公共话语者的立场与影响。此分析呼吁在自动化战争时代,重构我们对技术能动性、道德责任以及法律范畴局限性的理解。这些问题共同表明,加沙的情境揭示的不仅是治理或技术的失败,更是一种问责机制面临被蓄意瓦解风险的系统性状况。换言之,在讨论人工智能深刻加剧的危机时,本文批判了人工智能背后隐藏的政治,并鼓励将人工智能重新思考为公共生活的参与者,以及人工智能系统的意识形态基础。文章最后总结了主要发现及其对未来政策制定的潜在影响。

成为VIP会员查看完整内容
12

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《毁灭算法:解析以色列在加沙的AI军事行动》
专知会员服务
25+阅读 · 2025年7月18日
《人工智能军事化与自主武器系统》最新26页报告
专知会员服务
26+阅读 · 2025年6月29日
中文版2600字 | 以色列与加沙:战争中的人工智能
专知会员服务
26+阅读 · 2025年5月30日
《算法稳定性:人工智能如何塑造威慑的未来》最新报告
人工智能和军备控制,80页pdf
专知
15+阅读 · 2022年11月2日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月11日
VIP会员
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
41+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员