Lampson's confinement problem asks how to prevent a program that processes confidential information from leaking it to a third party. We introduce the strategic confinement problem, which arises when the communicating parties are strategic agents with shared coordination resources. In this setting, residual communication capacity can be concentrated on low-entropy, high-impact predicates of the confidential data. Consequently, bounds on information leakage need not induce corresponding bounds on worst-case harm: a channel with negligible capacity may still suffice to select damaging outcomes. We argue that systems of learnt strategic agents naturally instantiate this problem because they do not admit complete behavioural specifications, their learnt conventions generally cannot be predicted or reproduced by an external observer, and sufficiently capable agents can construct covert communication schemes that are difficult to detect or eliminate. Our contribution is therefore not a new theory of communication, but a reinterpretation of confinement in the presence of strategic agents. Classical confinement bounds what information may flow; strategic confinement highlights that this need not bound what strategic agents can jointly achieve.


翻译:Lampson提出的约束问题探讨了如何防止处理机密信息的程序将其泄露给第三方。我们引入了战略性约束问题,该问题出现在通信方为拥有共享协调资源的战略主体时。在此设定下,残余通信能力可集中于机密数据的低熵、高影响力谓词上。因此,信息泄露的界限并不必然对应最坏情况危害的界限:一个容量可忽略的信道仍可能足以选择造成破坏性结果。我们认为,学习型战略主体系统天然构成此问题的实例,原因在于:这些系统无法提供完整的行为规范,其习得约定通常无法被外部观察者预测或复现,且能力足够强的个体能够构建难以检测或消除的隐蔽通信方案。因此,我们的贡献并非提出新的通信理论,而是对战略主体存在情形下约束问题的重新诠释。经典约束界定了信息可能流动的边界;战略性约束则凸显出:信息流动的边界并不必然限制战略主体所能共同达成的行为。

0
下载
关闭预览

相关内容

(译文)认知战:以士兵为目标,塑造战略
专知会员服务
10+阅读 · 4月17日
《关于战略防御规划的建模方法》370页
专知会员服务
46+阅读 · 2025年3月31日
支持作战决策的战略预见
专知会员服务
18+阅读 · 2024年12月5日
《不确定条件下的武器目标分配问题》117页
专知会员服务
97+阅读 · 2024年10月13日
《美国国防部:记录战略》34页
专知会员服务
36+阅读 · 2024年2月19日
强化学习的两大话题之一,仍有极大探索空间
AI科技评论
22+阅读 · 2020年8月22日
赛尔笔记 | Attention!注意力机制可解释吗?
哈工大SCIR
23+阅读 · 2019年9月27日
战略|不会用战略地图,战略永远无法落地
智慧云董事会
11+阅读 · 2018年9月5日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月12日
Arxiv
0+阅读 · 5月11日
VIP会员
最新内容
综述 | 面向机器人的视觉触觉智能
专知会员服务
0+阅读 · 今天14:51
论文 | 基础模型驱动具身智能体安全综述
专知会员服务
0+阅读 · 今天14:43
伊朗-美国-以色列冲突教训
专知会员服务
0+阅读 · 今天13:06
《美国陆军 · 战役规划手册(2027年)》237页
专知会员服务
4+阅读 · 今天12:48
综述 | 自我中心视频中的视觉语言模型
专知会员服务
2+阅读 · 8月21日
综述 | 自演化智能体作为动态图变换
专知会员服务
5+阅读 · 8月21日
综述 | 自我中心视频中的视觉语言模型
专知会员服务
8+阅读 · 8月20日
综述 | 基础模型时代的人本智能全景
专知会员服务
6+阅读 · 8月20日
综述 | 多模态大模型的不确定性感知决策
专知会员服务
8+阅读 · 8月19日
综述 | Deep Academic Survey:有状态闭环综述自动化
综述 | 触觉与力觉感知机器人学习
专知会员服务
10+阅读 · 8月18日
综述 | AI科学家的过去与未来
专知会员服务
12+阅读 · 8月18日
相关VIP内容
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
64+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员