2026年1月20日,全球人工智能领域最顶尖的学术会议——AAAI 2026(第40届美国人工智能协会年会)在新加坡博览中心盛大开幕。作为人工智能领域历史最悠久、覆盖内容最广泛的国际顶级学术会议,AAAI自1979年创办以来,每年举办一届,已成为全球AI学者、企业与科研机构展示创新成果、碰撞思想火花的核心平台。本届会议共收到23680篇有效投稿,最终4167篇论文被录取,录取率仅17.6%,竞争之激烈堪称“AI学术界的奥林匹克”。来自HKBU等学者给出《基础模型的可信机器推理》教程。
基础模型(Foundation Models)的最新进展推动了机器推理(Machine Reasoning)领域的显著突破,使系统能够处理数学、编程、科学探索及现实决策中日益复杂的任务。然而,尽管取得了这些进展,基础模型的推理能力仍面临关键的可信度(Trustworthiness)问题,包括对噪声输入的敏感性、产生幻觉或误导性的推理轨迹(Reasoning Traces)、对对抗攻击的脆弱性以及有限的可解释性。 本教程旨在建立对基础模型可信机器推理的统一且系统的理解。我们不再将推理性能、鲁棒性、安全性和可解释性孤立看待,而是综述了提示工程(Prompting)、测试时扩展(Test-time Scaling)、后训练(Post-training)以及智能体推理(Agentic Reasoning)框架等领域的最新进展,重点阐述这些组件如何共同塑造可信的推理行为。 本教程共分为四个主要部分。第一部分,我们介绍大模型中机器推理的基础,探讨其能力、局限性及新兴趋势。第二部分,我们提出基础模型可信推理的核心技术,包括提示策略、测试时扩展方法,以及增强鲁棒性与安全性的后训练方法。第三部分,我们将讨论扩展至基础智能体(Foundation Agents),涵盖工具增强(Tool-augmented)、多智能体(Multi-agent)及多模态推理,并分析其独特的可信度挑战。最后,我们考察现实世界的应用与开放性研究问题,重点关注可信代码智能体(Code Agents)及基于智能体的编程系统,这些系统整合了推理与工具使用以实现可靠的部署。通过整合最新进展与开放挑战,本教程旨在为可信机器推理系统的未来研究奠定基础。
时间: 2026年1月20日,14:00地点: Peridot 202 * 第一部分:基础模型可信机器推理导论 (Bo Han, 30分钟) * 第二部分:基础模型可信机器推理技术 (Zhanke Zhou, 50分钟) * 第三部分:基础智能体可信机器推理技术 (Chentao Cao, 50分钟) * 第四部分:AI代码智能体可信机器推理应用 (Brando Miranda, 50分钟) * 总结致辞 (Zhanke Zhou, 10分钟) * 问答环节 (Q&A)