Lampson's confinement problem asks how to prevent a program that processes confidential information from leaking it to a third party. We introduce the strategic confinement problem, which arises when the communicating parties are strategic agents with shared coordination resources. In this setting, residual communication capacity can be concentrated on low-entropy, high-impact predicates of the confidential data. Consequently, bounds on information leakage need not induce corresponding bounds on worst-case harm: a channel with negligible capacity may still suffice to select damaging outcomes. We argue that systems of learnt strategic agents naturally instantiate this problem because they do not admit complete behavioural specifications, their learnt conventions generally cannot be predicted or reproduced by an external observer, and sufficiently capable agents can construct covert communication schemes that are difficult to detect or eliminate. Our contribution is therefore not a new theory of communication, but a reinterpretation of confinement in the presence of strategic agents. Classical confinement bounds what information may flow; strategic confinement highlights that this need not bound what strategic agents can jointly achieve.


翻译:Lampson提出的约束问题探讨了如何防止处理机密信息的程序将其泄露给第三方。我们引入了战略性约束问题,该问题出现在通信方为拥有共享协调资源的战略主体时。在此设定下,残余通信能力可集中于机密数据的低熵、高影响力谓词上。因此,信息泄露的界限并不必然对应最坏情况危害的界限:一个容量可忽略的信道仍可能足以选择造成破坏性结果。我们认为,学习型战略主体系统天然构成此问题的实例,原因在于:这些系统无法提供完整的行为规范,其习得约定通常无法被外部观察者预测或复现,且能力足够强的个体能够构建难以检测或消除的隐蔽通信方案。因此,我们的贡献并非提出新的通信理论,而是对战略主体存在情形下约束问题的重新诠释。经典约束界定了信息可能流动的边界;战略性约束则凸显出:信息流动的边界并不必然限制战略主体所能共同达成的行为。

0
下载
关闭预览

相关内容

(译文)认知战:以士兵为目标,塑造战略
专知会员服务
10+阅读 · 4月17日
《关于战略防御规划的建模方法》370页
专知会员服务
46+阅读 · 2025年3月31日
支持作战决策的战略预见
专知会员服务
18+阅读 · 2024年12月5日
《不确定条件下的武器目标分配问题》117页
专知会员服务
97+阅读 · 2024年10月13日
《美国国防部:记录战略》34页
专知会员服务
36+阅读 · 2024年2月19日
强化学习的两大话题之一,仍有极大探索空间
AI科技评论
22+阅读 · 2020年8月22日
赛尔笔记 | Attention!注意力机制可解释吗?
哈工大SCIR
23+阅读 · 2019年9月27日
战略|不会用战略地图,战略永远无法落地
智慧云董事会
11+阅读 · 2018年9月5日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月12日
Arxiv
0+阅读 · 5月11日
VIP会员
最新内容
现代电磁战:集成式系统簇时代如何实现频谱优势
综述|谁来改进机器人?迈向物理递归自我改进
专知会员服务
0+阅读 · 今天14:47
软件定义无人机蜂群给防空带来全新压力
专知会员服务
9+阅读 · 10月13日
《半自主无人地面战车的互操作性》66页
专知会员服务
9+阅读 · 10月13日
迈向更智慧的军事情报
专知会员服务
9+阅读 · 10月12日
《美国陆军2026年野战手册 2-0 情报》
专知会员服务
8+阅读 · 10月12日
《基于启发式算法求解武器-目标分配问题》
专知会员服务
9+阅读 · 10月12日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员