经过网络优化的LLM(大语言模型)在复杂环境中发现新漏洞的能力日益增强,而对手运用它们的能力也在不断提高。这增加了关键任务机构面临的攻击面,这些机构正面临漏洞分级、修复和协调的新瓶颈。Palantir认为,任何严肃的机构都应达到一个更高的标准,并已承担起为安全社区提出新标准的责任。

Palantir Technologies 在全球最敏感的环境中运营软件和人工智能系统:涉密政府网络、活跃作战战区、物理隔离的情报系统和关键商业基础设施。在过去20多年中,不断设计部署基础设施和安全态势,以持续支持这些环境,并为所有新的进展和技术进步(例如最近出现的经过网络优化的LLM)做好准备。

本文档提出一个候选的“任务保障性软件安全标准”(MA-S2)框架,这是正积极努力实现的标准。除了满足已有框架(如SOC 2、FedRAMP、IL5 / IL6、NIST SP 800-53、ISO 27001等)的要求外,AI辅助漏洞发现的普及突显了整个软件领域需要一个更高标准的必要性。MA-S2 是一个拟议的框架,概述了软件的安全控制、识别与修复能力、协调能力以及其他鉴证要求。公开发布此拟议标准并征求意见,因为视此为对任何希望保护自身数字足迹和生态系统的企业应尽的责任,也视此为对更广泛安全社区的贡献。对于任何认为自身任务与美国国家安全同等重要,并希望以同等标准保护其环境的首席信息安全官、首席财务官、采购官员和安全架构师,鼓励他们紧急优先考虑满足这些标准。对于更广泛的安全社区,积极邀请审查和进一步贡献,以确保一个共同且不断提高的高标准。

成为VIP会员查看完整内容
4

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
探索大型语言模型在网络安全中的作用:一项系统综述
专知会员服务
21+阅读 · 2025年4月27日
158页!天大等最新《大型语言模型安全:全面综述》
专知会员服务
50+阅读 · 2024年12月24日
【新书】大规模语言模型的隐私与安全,
专知会员服务
29+阅读 · 2024年12月4日
大语言模型安全开发者手册:构建安全的 AI 应用程序
专知会员服务
35+阅读 · 2024年9月29日
大型语言模型网络安全综述
专知会员服务
68+阅读 · 2024年5月12日
【2024新书】大型语言模型安全开发者手册,250页pdf
专知会员服务
76+阅读 · 2024年2月12日
《大模型和情报分析》中文版,2023最新报告
专知会员服务
154+阅读 · 2023年8月24日
《人工智能安全测评白皮书》,99页pdf
专知
36+阅读 · 2022年2月26日
20项任务全面碾压BERT,全新XLNet预训练模型
机器学习算法与Python学习
15+阅读 · 2019年6月20日
重构 Palantir 数据模型
待字闺中
34+阅读 · 2018年12月27日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
VIP会员
最新内容
以色列-美国-伊朗战争中的无人机:关键要点
专知会员服务
1+阅读 · 47分钟前
《Palantir任务保障性软件安全标准(MA-S2)》
专知会员服务
4+阅读 · 今天13:49
基于声学的无人机检测技术综述
专知会员服务
3+阅读 · 今天13:37
《当代混合战争分析框架:俄乌战争经验教训》
专知会员服务
4+阅读 · 今天13:11
战略前沿人工智能的再思考(中文)
专知会员服务
7+阅读 · 5月29日
《量化地基防空系统间接效应的博弈论方法》
专知会员服务
5+阅读 · 5月29日
“史诗怒火行动”中美军损失的作战飞机
专知会员服务
6+阅读 · 5月29日
ICML 2026 | 理解上下文持续学习中的泛化与遗忘
专知会员服务
5+阅读 · 5月28日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员