本文探讨了AI智能体的兴起,概述了其技术基础、分类、评估与治理,以支持其安全有效的采用。

本报告主要面向AI智能体的采用者,包括寻求将AI智能体整合到组织工作流和服务中的决策者、技术领导者及从业者。尽管AI智能体日益受到关注,但关于如何负责任地设计、测试和监管它们的指导仍然有限。本文旨在通过为这些系统的安全有效部署提供一个结构化基础,帮助填补这一空白。本文作出了三个关键贡献。首先,它涵盖了AI智能体的技术基础,包括其架构、协议和安全考量。其次,它提供了一个功能分类,根据代理的角色、自主性、权威性、可预测性和操作环境对其进行区分。第三,它提出了一种渐进式治理方法,将评估和保障措施与智能体的任务范围及部署环境直接联系起来。这些要素共同为采用者提供了一个从实验走向部署的概念蓝图。报告强调了将采用过程与评估和治理实践相结合的重要性,以确保在维持信任、安全和问责制的同时,成功部署AI智能体。

成为VIP会员查看完整内容
33

相关内容

军事防务数据板块介绍:系统化采集、存储、管理、分析与军事国防安全相关信息的专用数据板块,其核心在于整合全球新兴国防技术(军事人工智能、无人系统等)、热点案例(俄乌战争、美以伊战争)等方面的最新时讯、研究报告/论文、条令法规、案例分析,为战略研判、情报分析、决策支持等提供知识支撑。
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
27+阅读 · 2025年7月8日
《人工智能支持战略传播能力》北约最新48页报告
专知会员服务
40+阅读 · 2024年8月11日
《影响力行动》2023最新30页报告
专知会员服务
35+阅读 · 2023年10月23日
《用于国家安全的人工智能:可预测性问题》65页报告
专知会员服务
78+阅读 · 2023年4月1日
【2022新书】深度学习归一化技术,117页pdf
专知
29+阅读 · 2022年11月25日
【2022新书】Python数据分析第三版,579页pdf
专知
19+阅读 · 2022年8月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
176+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Arxiv
83+阅读 · 2023年3月26日
Arxiv
182+阅读 · 2023年3月24日
Arxiv
27+阅读 · 2023年3月17日
VIP会员
最新内容
为初级军官战术训练设计生成式人工智能平台
专知会员服务
3+阅读 · 今天6:43
《美军条令:作战伤员后送保障》
专知会员服务
3+阅读 · 今天6:38
《美空军条令出版物 4-0,维持》
专知会员服务
2+阅读 · 今天6:32
《基于仿真的空军任务规划优化》
专知会员服务
2+阅读 · 今天6:21
CVPR 2026教程:统一多模态模型走向收敛之路
专知会员服务
6+阅读 · 6月8日
《人工智能在网络防御中的机遇》
专知会员服务
6+阅读 · 6月8日
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员