Decentralized AI systems, such as federated learning, can play a critical role in further unlocking AI asset marketplaces (e.g., healthcare data marketplaces) thanks to increased asset privacy protection. Unlocking this big potential necessitates governance mechanisms that are transparent, scalable, and verifiable. However current governance approaches rely on bespoke, infrastructure-specific policies that hinder asset interoperability and trust among systems. We are proposing a Technical Policy Blueprint that encodes governance requirements as policy-as-code objects and separates asset policy verification from asset policy enforcement. In this architecture the Policy Engine verifies evidence (e.g., identities, signatures, payments, trusted-hardware attestations) and issues capability packages. Asset Guardians (e.g. data guardians, model guardians, computation guardians, etc.) enforce access or execution solely based on these capability packages. This core concept of decoupling policy processing from capabilities enables governance to evolve without reconfiguring AI infrastructure, thus creating an approach that is transparent, auditable, and resilient to change.


翻译:去中心化人工智能系统(如联邦学习)能够通过增强资产隐私保护,在进一步释放人工智能资产市场(例如医疗数据市场)潜力方面发挥关键作用。实现这一巨大潜力需要透明、可扩展且可验证的治理机制。然而,当前治理方法依赖于定制化、基础设施特定的政策,阻碍了资产互操作性及系统间信任。我们提出一种技术政策蓝图,将治理要求编码为"政策即代码"对象,并将资产政策验证与资产政策执行相分离。在该架构中,策略引擎负责验证证据(如身份、签名、支付、可信硬件证明)并颁发能力包。资产守护者(如数据守护者、模型守护者、计算守护者等)仅依据这些能力包执行访问或运算控制。这种将策略处理与能力解耦的核心设计,使得治理机制能够在无需重新配置人工智能基础设施的情况下持续演进,从而构建出透明、可审计且具备变革适应性的治理方案。

0
下载
关闭预览

相关内容

《人工智能使能系统可靠性框架》
专知会员服务
14+阅读 · 4月27日
《可信人工智能赋能系统的支柱》
专知会员服务
20+阅读 · 2月26日
可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
可信人工智能治理白皮书
专知会员服务
43+阅读 · 2025年1月14日
中国信通院发布《人工智能风险治理报告(2024年)》
专知会员服务
47+阅读 · 2024年12月26日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
【综述】医疗可解释人工智能综述论文
专知
33+阅读 · 2019年7月18日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月11日
Arxiv
12+阅读 · 2023年9月21日
VIP会员
最新内容
面向具身智能与机器人仿真的三维生成:综述
专知会员服务
0+阅读 · 今天14:22
《新兴技术武器化及其对全球风险的影响》
专知会员服务
8+阅读 · 4月29日
《帕兰泰尔平台介绍:信息分析平台》
专知会员服务
21+阅读 · 4月29日
相关基金
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员