白宫将人工智能、自主性、弹性定位、导航与授时、先进传感、网络物理安全、量子技术与太空列为国家安全优先事项,这是正确的。五角大楼可以扩展该战略,不仅测试自主系统在干扰下是否保持能力,还要测试当支持行动的证据退化时,其权限契约如何变化。

白宫的新《国家安全科技战略》确立了一个重要的工程原则:关键国家安全系统的设计不应基于它们将免受干扰的幻想。该战略明确倾向于弹性和“优雅降级”——即在对手行动或自然灾害下弯曲而非瞬间失效的架构。

这一原则现在可能被引入军事自主性本身。

该战略将人工智能与自主性列为美国战场优势的核心技术。其更新的技术优先事项包括感知与传感器融合、规划与决策、多智能体系统、自主指挥与控制、自主智能体识别与认证、可解释性与控制、对抗鲁棒性、弹性定位、导航与授时以及先进传感。

这是一个正确的能力议程。现在的机遇是将其与另一个可衡量的属性配对:当自主系统技术上仍能行动,但支持该行动的证据已退化时,它应放弃多少权限?

这不是要求放慢自主性或在每个机器速度的行动中插入人工批准步骤。这是关于使弹性完整。一个能在攻击下继续运行的系统也应知道何时必须在更少权限下继续运行。

政府已为这种方法创造了政策空间。第11号国家安全总统备忘录指示国家安全机构加速人工智能的采用,同时确保系统可靠、健壮、可控和可操纵。它还要求进行严格的测试、评估、验证与确认,并指示更新五角大楼的自主性政策,以便人工智能系统尊重指挥链和作战权限。国防部现在也有专门针对人工智能赋能和自主系统的作战测试与评估手册。

问题是,当对这些系统的证据信任开始侵蚀时,究竟应该测试它们做什么。

能力可以比权限更长久地存活。一个军事系统不仅仅因为继续运转就变得安全。

导航系统在全球导航卫星系统干扰后仍能继续生成位置,即使惯性误差在增长。传感器融合系统在一个模态偏离校准后仍能产生高置信度分数。网络可以认证一条消息,而不证明其中的信息仍然足够新鲜以证明一个重大行动是合理的。多智能体编队在证明集体行动合理的可信参与或共同证据发生变化后,仍可保持连接。

在每种情况下,软件仍然工作。应该改变的是权限。

这种区别在战斗中很重要,因为退化的证据很少以干净的非此即彼的故障形式出现。干扰、欺骗、部分传感器丢失、校准漂移、来源中断、过时情报和通信延迟创造了一个灰色地带,在这个地带中,系统可能仍然知道足够多的事情可以做,但不再知道足够多的事情来做片刻之前被允许做的一切。

因此,自主性的优雅降级应包括权限的优雅降级。

将权限降级转化为测试条目。实际机制是将权限降级测试内置到测试、评估、验证与确认中。四个要素将使这个想法可操作。

首先,在测试开始前声明权限状态。观察、建议、任务分配、资源承诺和物理执行不是等效的行动。一个系统可能被允许在不再建议时继续观察,或在不再执行时继续建议。这些区别应写入需求和测试计划,而不是在事件发生后重建。

其次,故意降低支持这些权限的证据。移除一个传感器。引入校准漂移。破坏时间同步。延迟情报推送。干扰或欺骗定位。破坏来源。在自主智能体之间制造分歧。将模型推到其经过验证的运行域之外。破坏一个软件组件,同时让架构的其余部分保持功能。这些不是演示期间要避免的不便的边缘情况;它们是权限架构证明自己是否真正存在的条件。

第三,测量权限是否在定义的边界内收缩。如果物理执行所需的证据消失,系统是否会回退到建议?如果支持建议的证据变得不充分,它是否会回退到观察?如果一个多智能体编队失去了集体决策所需的可信仲裁或传感器基础,它的权限是否会缩小,而不是因为剩余节点仍在通信就默默持续?答案应该在时间、状态和行动空间中可测量。

第四,像测试降级一样严格地测试恢复。恢复数据链路、重新启动组件或重新获取导航信号不应自动恢复最广泛的先前权限状态。系统应证明需要什么证据来重新获得权限,谁或什么可以授权该转换,恢复的证据必须保持稳定多长时间,以及保留了什么审计记录。

这将补充而非取代五角大楼现有的自主性保障措施。国防部指令3000.09已经要求严格的验证与确认、逼真的测试、适当水平的人类判断,以及与指挥官预期参数一致的系统行为。权限降级测试将为这些原则提供一个具体的故障模式来演练:不仅测试系统在逼真条件下是否表现良好,还测试当这些条件不再支持相同程度的行动时,其权限是否适当改变。

弹性定位、导航与授时提供了最清晰的例子,因为新战略将定位、导航与授时确定为一关键赋能技术,而对手已经有强烈的动机去干扰、欺骗或以其他方式削弱它。

在失去全球导航卫星系统的情况下,一架飞机可能继续通过惯性传感器、替代参考或融合估计进行导航。这正是美国应该想要的弹性。但是,随着不确定性增加,仍然对导航有用的惯性解决方案不一定为每一个下游行动保留相同的证据基础。

一个平台可能仍然知道足够多的事情来返回、保持编队或避开地形,同时不再知道足够多的事情来做出依赖于精确位置的不可逆承诺。因此,工程要求不仅应将导航不确定性与准确性联系起来,还应与系统仍被授权做什么联系起来。

同样的逻辑适用于传感器融合。更多的传感器可以改善覆盖范围,但不应允许高总置信度分数掩盖强制性证据条件的丢失。传感器可能共享一个共同错误,一个模态可能超出校准范围,或者来源可能缺失。一些证据应作为底线,而不是加权平均中的另一个数字。

同样的问题出现在自主指挥与控制中。分布式系统在计算上可能仍然健康,而证明其更广泛决策权限的条件不再成立。正确的反应不一定是关闭。它可能是一个更窄的权限包络:继续传感、继续通信和保留本地安全功能,但在所需证据返回之前,停止分配稀缺资源或发出不可逆命令。

这是国家安全优势,而非新的官僚层级。这种方法的价值在于它将治理问题转化为采办和测试组织实际可用的东西。

项目经理可以指定权限状态。工程师可以实现转换。测试组织可以故意破坏证据条件。操作员可以理解系统在退化但未死亡时仍会做什么。指挥官可以知道当战场变得不确定时,哪些行动仍留在委托的权限包络内。

这不是一个额外的审查委员会。它是一个可测试的性能属性。

它还支持联盟作战。盟友将越来越多地交换机器生成的建议,并在共享网络上操作自主系统。如果一个伙伴无法分辨什么证据条件支持另一个系统的建议,或者系统行动时处于什么权限状态,那么技术互操作性就不够。共同的权限语义最终可能成为与消息格式和数据标准并列的互操作性的一部分。

我将这个更广泛的学科称为“治理工程”:将权限本身视为一个工程对象,可以在运行时指定、界定、监控、降级、转移、恢复和审计。标签不如测试重要。供应商应能够据此设计,测试组织应能够测量它,指挥官应能够依赖结果。

美国加速人工智能与自主性、自主指挥与控制、弹性定位、导航与授时、先进传感和信息物理系统是正确的。这些能力是对抗复杂对手保持战场优势的核心。

但弹性应意味着不止让机器保持在线。

一支有弹性的自主部队应在攻击下继续运作,而不默默保留退化证据不再证明合理的权限。

未来自主系统的决定性问不仅在于当一切正常时它能做什么。还在于,当它仍有能力行动时,它是否知道何时不再被授权以同样方式行动。

https://www.realcleardefense.com/articles/2026/09/09/americas_new_national_security_science_and_technology_strategy_1204992.html

成为VIP会员查看完整内容
0

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
VIP会员
最新内容
失去控制的指挥:人工智能时代的任务式指挥
专知会员服务
1+阅读 · 36分钟前
美国的新国家安全科技战略思考
专知会员服务
0+阅读 · 42分钟前
综述 | 面向大模型智能体的图结构个性化记忆
专知会员服务
4+阅读 · 9月10日
人工智能与未来空战管理
专知会员服务
6+阅读 · 9月9日
微信扫码咨询专知VIP会员