Lampson's confinement problem asks how to prevent a program that processes confidential information from leaking it to a third party. We introduce the strategic confinement problem, which arises when the communicating parties are strategic agents with shared coordination resources. In this setting, residual communication capacity can be concentrated on low-entropy, high-impact predicates of the confidential data. Consequently, bounds on information leakage need not induce corresponding bounds on worst-case harm: a channel with negligible capacity may still suffice to select damaging outcomes. We argue that systems of learnt strategic agents naturally instantiate this problem because they do not admit complete behavioural specifications, their learnt conventions generally cannot be predicted or reproduced by an external observer, and sufficiently capable agents can construct covert communication schemes that are difficult to detect or eliminate. Our contribution is therefore not a new theory of communication, but a reinterpretation of confinement in the presence of strategic agents. Classical confinement bounds what information may flow; strategic confinement highlights that this need not bound what strategic agents can jointly achieve.


翻译:Lampson提出的约束问题探讨了如何防止处理机密信息的程序将其泄露给第三方。我们引入了战略性约束问题,该问题出现在通信方为拥有共享协调资源的战略主体时。在此设定下,残余通信能力可集中于机密数据的低熵、高影响力谓词上。因此,信息泄露的界限并不必然对应最坏情况危害的界限:一个容量可忽略的信道仍可能足以选择造成破坏性结果。我们认为,学习型战略主体系统天然构成此问题的实例,原因在于:这些系统无法提供完整的行为规范,其习得约定通常无法被外部观察者预测或复现,且能力足够强的个体能够构建难以检测或消除的隐蔽通信方案。因此,我们的贡献并非提出新的通信理论,而是对战略主体存在情形下约束问题的重新诠释。经典约束界定了信息可能流动的边界;战略性约束则凸显出:信息流动的边界并不必然限制战略主体所能共同达成的行为。

0
下载
关闭预览

相关内容

(译文)认知战:以士兵为目标,塑造战略
专知会员服务
10+阅读 · 4月17日
《关于战略防御规划的建模方法》370页
专知会员服务
46+阅读 · 2025年3月31日
支持作战决策的战略预见
专知会员服务
18+阅读 · 2024年12月5日
《不确定条件下的武器目标分配问题》117页
专知会员服务
96+阅读 · 2024年10月13日
《美国国防部:记录战略》34页
专知会员服务
36+阅读 · 2024年2月19日
强化学习的两大话题之一,仍有极大探索空间
AI科技评论
22+阅读 · 2020年8月22日
赛尔笔记 | Attention!注意力机制可解释吗?
哈工大SCIR
23+阅读 · 2019年9月27日
战略|不会用战略地图,战略永远无法落地
智慧云董事会
11+阅读 · 2018年9月5日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月12日
Arxiv
0+阅读 · 5月11日
VIP会员
最新内容
ICML 2026 | 自回归Boltzmann生成器重塑分子采样
专知会员服务
0+阅读 · 今天15:55
GNN跨域综述:从消息传递到图基础模型
专知会员服务
0+阅读 · 今天15:53
无人机自主控制与人工智能:系统性综述
专知会员服务
11+阅读 · 今天7:25
巡飞弹与反无人机系统——现代战场的两大支柱
专知会员服务
3+阅读 · 今天6:54
《打造“黄金舰队”》57页报告
专知会员服务
3+阅读 · 今天6:52
《北约数字教官网络发展路径》128页报告
专知会员服务
2+阅读 · 今天6:33
ECCV 2026 | MIMFlow:MIM与归一化流统一图像生成
专知会员服务
7+阅读 · 6月25日
网状网络及其在军事领域的运用
专知会员服务
8+阅读 · 6月25日
无美国参与的欧洲战争方式(万字长文)
专知会员服务
8+阅读 · 6月25日
《国防领域敏感性分析白皮书》
专知会员服务
9+阅读 · 6月25日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员