Decentralized AI systems, such as federated learning, can play a critical role in further unlocking AI asset marketplaces (e.g., healthcare data marketplaces) thanks to increased asset privacy protection. Unlocking this big potential necessitates governance mechanisms that are transparent, scalable, and verifiable. However current governance approaches rely on bespoke, infrastructure-specific policies that hinder asset interoperability and trust among systems. We are proposing a Technical Policy Blueprint that encodes governance requirements as policy-as-code objects and separates asset policy verification from asset policy enforcement. In this architecture the Policy Engine verifies evidence (e.g., identities, signatures, payments, trusted-hardware attestations) and issues capability packages. Asset Guardians (e.g. data guardians, model guardians, computation guardians, etc.) enforce access or execution solely based on these capability packages. This core concept of decoupling policy processing from capabilities enables governance to evolve without reconfiguring AI infrastructure, thus creating an approach that is transparent, auditable, and resilient to change.


翻译:去中心化人工智能系统(如联邦学习)因增强了资产隐私保护,可在进一步释放AI资产市场(如医疗数据市场)潜力方面发挥关键作用。释放这一巨大潜力需要透明、可扩展且可验证的治理机制。然而,当前的治理方法依赖于定制化、特定于基础设施的策略,这些策略阻碍了资产互操作性和系统间的信任。我们提出了一种技术政策蓝图,将治理需求编码为策略即代码对象,并将资产策略验证与资产策略执行分离。在此架构中,策略引擎验证证据(如身份、签名、支付、可信硬件证明)并下发能力包。资产守护者(例如数据守护者、模型守护者、计算守护者等)仅根据这些能力包来执行访问或计算。这种将策略处理与能力解耦的核心概念,使得治理能够在不重新配置AI基础设施的情况下演进,从而创造一种透明、可审计且能够适应变化的方案。

0
下载
关闭预览

相关内容

《可信人工智能赋能系统的支柱》
专知会员服务
21+阅读 · 2月26日
可解释人工智能(XAI):从内在可解释性到大语言模型
专知会员服务
34+阅读 · 2025年1月20日
可信人工智能治理白皮书
专知会员服务
43+阅读 · 2025年1月14日
中国信通院发布《人工智能风险治理报告(2024年)》
专知会员服务
48+阅读 · 2024年12月26日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
【综述】医疗可解释人工智能综述论文
专知
33+阅读 · 2019年7月18日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月10日
Arxiv
12+阅读 · 2023年9月21日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关基金
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员