本文探讨了AI智能体的兴起,概述了其技术基础、分类、评估与治理,以支持其安全有效的采用。

本报告主要面向AI智能体的采用者,包括寻求将AI智能体整合到组织工作流和服务中的决策者、技术领导者及从业者。尽管AI智能体日益受到关注,但关于如何负责任地设计、测试和监管它们的指导仍然有限。本文旨在通过为这些系统的安全有效部署提供一个结构化基础,帮助填补这一空白。本文作出了三个关键贡献。首先,它涵盖了AI智能体的技术基础,包括其架构、协议和安全考量。其次,它提供了一个功能分类,根据代理的角色、自主性、权威性、可预测性和操作环境对其进行区分。第三,它提出了一种渐进式治理方法,将评估和保障措施与智能体的任务范围及部署环境直接联系起来。这些要素共同为采用者提供了一个从实验走向部署的概念蓝图。报告强调了将采用过程与评估和治理实践相结合的重要性,以确保在维持信任、安全和问责制的同时,成功部署AI智能体。

成为VIP会员查看完整内容
23

相关内容

人工智能在军事中可用于多项任务,例如目标识别、大数据处理、作战系统、网络安全、后勤运输、战争医疗、威胁和安全监测以及战斗模拟和训练。
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
23+阅读 · 2025年7月8日
《人工智能支持战略传播能力》北约最新48页报告
专知会员服务
38+阅读 · 2024年8月11日
《用于国家安全的人工智能:可预测性问题》65页报告
专知会员服务
77+阅读 · 2023年4月1日
【2022新书】深度学习归一化技术,117页pdf
专知
29+阅读 · 2022年11月25日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
Arxiv
174+阅读 · 2023年4月20日
Arxiv
180+阅读 · 2023年3月24日
Arxiv
25+阅读 · 2023年3月17日
VIP会员
相关VIP内容
《人工智能对抗认知战的基本风险​​》最新报告30页
专知会员服务
23+阅读 · 2025年7月8日
《人工智能支持战略传播能力》北约最新48页报告
专知会员服务
38+阅读 · 2024年8月11日
《用于国家安全的人工智能:可预测性问题》65页报告
专知会员服务
77+阅读 · 2023年4月1日
相关基金
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
微信扫码咨询专知VIP会员