生成式人工智能(GenAI)正在重塑计算系统的设计、优化与构建范式。然而,目前的相关研究在软件、架构及芯片设计社区间呈现出碎片化特征。本文采用全栈(Cross-stack)视角,系统性地考察了生成模型在从代码生成与分布式运行时,到硬件设计空间探索、RTL 综合、物理布局及验证等环节中的应用。不同于孤立地评述单一层级,本文重点分析了相同的**结构性困境(Structural difficulties)**及其有效对策如何在整个技术栈中反复出现。

研究的核心发现指向了**“收敛性(Convergence)”**:尽管应用领域与工具各异,该领域仍反复面临五项周期性挑战(反馈回路危机、隐性知识难题、信任与验证、跨界协同设计,以及从确定性向动态性的转变);与此同时,五项设计原则作为有效的应对方案独立浮现(采用混合方法、面向持续反馈建模、按角色实现关注点分离、方法与问题结构匹配,以及秉承深厚的系统工程积淀)。

我们将上述要素归纳为一张**“挑战-原则映射图(Challenge–Principle Map)”**。该图谱作为诊断与设计的辅助工具,揭示了特定原则在跨层级应对特定挑战时的有效性。通过具体的跨栈案例,本文展示了系统随成熟度演进在图谱中的迁移路径。此外,我们主张该领域亟需构建共享的工程方法论——包括通用词汇表、跨层基准测试及系统化设计规范——以确保技术进步能在不同社区间实现复利式增长,而非在各自领域重复“重新发现”。本综述涵盖了计算栈三层架构中 11 个应用领域的 275 余篇文献,并提炼出仅在跨层视角下可见的开放性研究议题。

**1. 引言 (Introduction)

近年来,机器学习在系统优化中的应用大幅增加 [244, 15, 219, 226, 183]。通过收集超过 7,800 篇出版物,我们发现“AI 赋能系统(AI for Systems)”的相关文献在 2017 年至 2025 年间增长了 20 倍以上(见图 1)。这种爆发式增长既反映了现代系统设计空间日益增长的复杂性,也体现了以大语言模型(LLM)和强化学习(RL)为代表的学习型技术的日趋成熟,这些技术已具备应对系统特定挑战的能力。与此同时,技术进步的速度已超越了社区系统性评估成果、跨领域比较方法以及识别共同局限性的能力。

本综述采用全栈视角(Cross-stack perspective)。我们并非专注于单一子领域,而是考察生成式 AI(GenAI)如何应用于从软件工程、分布式系统到硬件架构,再到寄存器传输级(RTL)设计、物理布局及验证的整个计算栈。通过跨层观察,我们发现相同的结构性挑战设计原则在整个技术栈中反复出现,但若孤立地研究每一层,这些规律往往难以察觉。现有的综述虽然具有价值,但通常聚焦于编译器优化、计算机架构或芯片与 EDA 设计等独立领域 [244, 92, 172, 75, 97, 62, 84]。这种碎片化限制了技术在不同领域间的迁移,并阻碍了对数据集、评估和部署中共有挑战的识别。本综述的核心贡献在于打破这些孤岛:我们提炼了源自系统性跨层分析的五项重复性挑战和五项设计原则,并相信它们能够指导全领域的未来研究。

从历史上看,计算系统优化依赖于人类专家经验与算法搜索的结合。编译器开发者基于数十年经验设计优化路径(Pass),硬件架构师利用精心调优的启发式方法探索设计方案,而芯片设计师则在增量自动化的辅助下通过手动努力反复改进布局。随着系统变得愈发复杂——涵盖异构处理器、深度存储层次结构以及数十亿晶体管设计——这一范式遭遇了严峻的可扩展性瓶颈。设计空间呈组合爆炸式增长,跨层交互违背直觉,优化周期日益拉长至数月甚至数年 [86, 59, 167, 260, 161, 234, 109, 194, 229, 166, 20]。 生成式 AI 为传统方法提供了替代方案。大语言模型可以从自然语言描述中合成可执行代码 [32, 132, 153, 235],而图神经网络(GNN)预测硬件性能的成本远低于详细模拟 [245, 79, 264, 61]。强化学习代理在芯片布局优化中展现了潜力,在某些情况下接近甚至超过了资深人类设计师的水平 [154],尽管其可重复性仍是活跃的研究课题(见下文挑战 3)。综合而言,这些结果表明,在海量代码、硬件轨迹和设计数据上训练的生成模型可以自动化或显著加速整个计算栈的优化过程。

尽管前景广阔,该领域仍处于早期阶段。面对新架构、新兴工作负载或未见的设计约束时,许多学习模型难以在训练分布之外实现泛化 [34, 147, 108, 107, 17]。随着传统的形式化验证技术变得不再直接适用,确保正确性和鲁棒性变得更具挑战性 [198, 56, 104, 228]。此外,社区缺乏标准化的数据集、基准测试和评估方法,无法对各种方法进行严谨且可重复的对比。解决这些基础性问题将决定生成式 AI 是成为系统优化的可靠工具,还是重蹈早期机器学习尝试中“脆性(Brittleness)”问题的覆辙。

**1.1 挑战 (Challenges)

我们将特定层级的困难归纳为五项重复性挑战,它们共享一个共同根源:将生成模型置于真实设计与决策闭环中的难度。

挑战 1 (C1):反馈回路危机 (The Feedback Loop Crisis)。生成器速度极快,但评估器(Evaluator)依然缓慢、昂贵、嘈杂或不完整。无论是软件开发中的编译测试反馈,还是芯片设计中耗时的周期精确模拟,瓶颈不在于“生成”,而在于能否足够快地闭合环路以实现可行的学习与细化。 * 挑战 2 (C2):隐性知识难题 (The Tacit Knowledge Problem)。系统设计受制于难以记录的经验(如构建系统规范、性能“民间传说”或 EDA 流程中的不成文实践)。目前的困难在于如何提取、表征并更新这些长期存在于人类大脑和工具默认设置中的隐性专业知识。 * 挑战 3 (C3):信任与验证 (Trust and Validation)。随着 AI 进入关键决策层,验证成为部署的准入门槛。可靠的工作流不再要求模型“孤立地保证正确”,而是要求其产出能被形式化引擎或模拟器独立校验的工件。 * 挑战 4 (C4):跨界协同设计 (Co-Design Across Boundaries)。生成式 AI 频繁打破层级边界,但现有的抽象和工具链仍是分层的。跨层增益需要跨层控制,而目前的反馈信号通常是局部的。 * 挑战 5 (C5):从确定性向动态性的转变 (From Determinism to Dynamism)。系统正从静态工件转向随工作负载和环境变化的自适应策略。如何在系统行为由策略驱动且具有状态时,保持可预测性、可调试性和问责机制,是主要挑战。

**1.2 原则 (Principles)

原则 1 (P1):拥抱混合方案 (Embrace Hybrid Approaches)。最鲁棒的系统将学习与经典结构结合,而非取而代之。杂交化是让机器学习兼容硬约束和高昂错误成本的设计模式。 * 原则 2 (P2):面向持续反馈进行设计 (Design for Continuous Feedback)。生成系统并非通过“一次性生成”获胜,而是通过使迭代变得廉价、结构化且可衡量来取得成功。 * 原则 3 (P3):按角色而非工具分离关注点 (Separate Concerns by Role)。随着系统代理化(Agentic),模块化从代码边界转向责任边界。例如,将“生成者”与“评判者”分离,以定位错误并扩展复杂度。 * 原则 4 (P4):方法与问题结构相匹配 (Match Approach to Problem Structure)。不存在通用的系统 AI 方法。选择何种算法取决于系统暴露出的结构和反馈类型。 * 原则 5 (P5):立足于数十年的系统知识积淀 (Build on Decades of Systems Knowledge)。当 GenAI 被视为系统实践的延伸而非替代品时,其生产力最高。

成为VIP会员查看完整内容
6

相关内容

生成式人工智能是利用复杂的算法、模型和规则,从大规模数据集中学习,以创造新的原创内容的人工智能技术。这项技术能够创造文本、图片、声音、视频和代码等多种类型的内容,全面超越了传统软件的数据处理和分析能力。2022年末,OpenAI推出的ChatGPT标志着这一技术在文本生成领域取得了显著进展,2023年被称为生成式人工智能的突破之年。这项技术从单一的语言生成逐步向多模态、具身化快速发展。在图像生成方面,生成系统在解释提示和生成逼真输出方面取得了显著的进步。同时,视频和音频的生成技术也在迅速发展,这为虚拟现实和元宇宙的实现提供了新的途径。生成式人工智能技术在各行业、各领域都具有广泛的应用前景。
用于自动驾驶的生成式人工智能:前沿与机遇
专知会员服务
26+阅读 · 2025年5月16日
【新书】生成式人工智能:概念与应用
专知会员服务
46+阅读 · 2025年3月18日
生成式人工智能应用发展报告(2024)
专知会员服务
76+阅读 · 2024年12月8日
生成式人工智能在可视化中的应用:现状与未来方向
专知会员服务
41+阅读 · 2024年6月8日
【麦肯锡报告】捕捉生成式AI新机遇,106页pdf
专知会员服务
56+阅读 · 2023年9月16日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员