2026年1月20日,全球人工智能领域最顶尖的学术会议——AAAI 2026(第40届美国人工智能协会年会)在新加坡博览中心盛大开幕。作为人工智能领域历史最悠久、覆盖内容最广泛的国际顶级学术会议,AAAI自1979年创办以来,每年举办一届,已成为全球AI学者、企业与科研机构展示创新成果、碰撞思想火花的核心平台。本届会议共收到23680篇有效投稿,最终4167篇论文被录取,录取率仅17.6%,竞争之激烈堪称“AI学术界的奥林匹克”。来自HKBU等学者给出《基础模型的可信机器推理》教程。

基础模型(Foundation Models)的最新进展推动了机器推理(Machine Reasoning)领域的显著突破,使系统能够处理数学、编程、科学探索及现实决策中日益复杂的任务。然而,尽管取得了这些进展,基础模型的推理能力仍面临关键的可信度(Trustworthiness)问题,包括对噪声输入的敏感性、产生幻觉或误导性的推理轨迹(Reasoning Traces)、对对抗攻击的脆弱性以及有限的可解释性。 本教程旨在建立对基础模型可信机器推理的统一且系统的理解。我们不再将推理性能、鲁棒性、安全性和可解释性孤立看待,而是综述了提示工程(Prompting)测试时扩展(Test-time Scaling)后训练(Post-training)以及智能体推理(Agentic Reasoning)框架等领域的最新进展,重点阐述这些组件如何共同塑造可信的推理行为。 本教程共分为四个主要部分。第一部分,我们介绍大模型中机器推理的基础,探讨其能力、局限性及新兴趋势。第二部分,我们提出基础模型可信推理的核心技术,包括提示策略、测试时扩展方法,以及增强鲁棒性与安全性的后训练方法。第三部分,我们将讨论扩展至基础智能体(Foundation Agents),涵盖工具增强(Tool-augmented)、多智能体(Multi-agent)及多模态推理,并分析其独特的可信度挑战。最后,我们考察现实世界的应用与开放性研究问题,重点关注可信代码智能体(Code Agents)及基于智能体的编程系统,这些系统整合了推理与工具使用以实现可靠的部署。通过整合最新进展与开放挑战,本教程旨在为可信机器推理系统的未来研究奠定基础。

日程安排

时间: 2026年1月20日,14:00地点: Peridot 202 * 第一部分:基础模型可信机器推理导论 (Bo Han, 30分钟) * 第二部分:基础模型可信机器推理技术 (Zhanke Zhou, 50分钟) * 第三部分:基础智能体可信机器推理技术 (Chentao Cao, 50分钟) * 第四部分:AI代码智能体可信机器推理应用 (Brando Miranda, 50分钟) * 总结致辞 (Zhanke Zhou, 10分钟) * 问答环节 (Q&A)

成为VIP会员查看完整内容
39

相关内容

【AAAI2025教程】可解释深度学习的基础,295页ppt
专知会员服务
35+阅读 · 1月21日
【AAAI2024教程】多目标学习 - 基础与应用,197页ppt
专知会员服务
60+阅读 · 2024年3月2日
【AAAI2024教程】大模型知识编辑,192页ppt
专知会员服务
84+阅读 · 2024年2月29日
【AAAI2024】不完美数据下的可信机器学习
专知会员服务
53+阅读 · 2024年2月26日
【AAAI2024教程】物理信息机器学习的最新进展
专知会员服务
74+阅读 · 2024年2月25日
【AAAI2023教程】大规模深度学习优化技术,109页ppt
专知会员服务
63+阅读 · 2023年2月10日
AAAI 2019 录用列表论文公布,清华58篇
专知
31+阅读 · 2019年1月22日
AAAI2019录用论文选读
人工智能前沿讲习班
22+阅读 · 2018年11月21日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年4月20日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
Arxiv
12+阅读 · 2023年9月21日
VIP会员
相关VIP内容
【AAAI2025教程】可解释深度学习的基础,295页ppt
专知会员服务
35+阅读 · 1月21日
【AAAI2024教程】多目标学习 - 基础与应用,197页ppt
专知会员服务
60+阅读 · 2024年3月2日
【AAAI2024教程】大模型知识编辑,192页ppt
专知会员服务
84+阅读 · 2024年2月29日
【AAAI2024】不完美数据下的可信机器学习
专知会员服务
53+阅读 · 2024年2月26日
【AAAI2024教程】物理信息机器学习的最新进展
专知会员服务
74+阅读 · 2024年2月25日
【AAAI2023教程】大规模深度学习优化技术,109页ppt
专知会员服务
63+阅读 · 2023年2月10日
相关基金
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年4月20日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员