论文解读 | 医学图像修复中的扩散模型:挑战、分类与未来方向

导读

医学图像修复并不是普通图像补全的医疗版。自然图像修复只要视觉上合理,往往就能满足编辑和美化需求;但医学图像修复必须面对更高风险:被补全的区域可能影响病灶判断、治疗规划、分割结果和下游诊断。换句话说,医学场景中的“看起来像”远远不够,模型还必须尽可能保持解剖结构一致性和临床相关性。 这篇综述《Diffusion Models in Medical Image Inpainting: Challenges, Solution Taxonomy, and Future Directions》聚焦一个快速增长的方向:扩散模型用于医学图像修复。作者系统检索 Scopus、Web of Science 和 IEEE Xplore 等数据库,从 841 篇初始文献中筛选出 60 篇符合条件的研究,分析其模型类别、医学模态、应用任务、数据集、评价指标和实验设置,并提出扩散模型方法分类。 论文的核心结论是:扩散模型已经成为医学图像修复的重要生成式路线,尤其适合产生解剖上合理的重建结果,并支持伪健康组织重建、伪影去除、数据增强和异常检测等任务。但领域仍存在明显短板,包括统一 benchmark 缺失、数据集多样性不足、临床验证有限、评价指标偏图像质量而非诊断有效性等。

论文信息

论文题目:Diffusion Models in Medical Image Inpainting: Challenges, Solution Taxonomy, and Future Directions 作者:Arthur Dantas Mangussi, Joana Cristo Santos, Ricardo Cardoso Pereira, Ana Carolina Lorena, Mário A. T. Figueiredo, Pedro Henriques Abreu arXiv:2607.21904v1 类别:cs.CV 时间:2026 年 7 月 24 日 链接:https://arxiv.org/pdf/2607.21904

一、研究问题:为什么医学图像修复重要

医学影像在诊断、监测和治疗规划中处于核心位置,但真实临床采集中经常出现缺失或损坏信息。例如 MRI 或 CT 可能受到患者运动、设备限制、安全协议、扫描时间约束、金属植入物或不完整投影数据影响。缺失区域可能遮挡关键解剖结构或病灶,进而降低诊断可靠性。 图像修复的目标是在缺失或损坏区域生成合理内容,并与周围组织保持视觉和语义一致。在医疗场景中,这个目标更严格:模型不仅要补得自然,还要避免产生虚假病灶、掩盖真实异常或改变临床判断依据。 扩散模型的优势在于,它通过逐步加噪和反向去噪学习数据分布,训练稳定、样本多样性较好,并能生成高质量图像。相比 GAN,扩散模型较少受 mode collapse 和对抗训练不稳定影响;相比传统自编码器,其生成质量和复杂分布建模能力更强;相比纯 Transformer,它在 U-Net 或混合结构中仍保留了适合图像局部空间结构的归纳偏置。

二、系统综述方法:从 841 篇到 60 篇

论文采用 PRISMA 流程进行系统综述。作者使用 image inpainting、diffusion models、image completion、medical images、clinical、healthcare、radiology 等关键词,在多个数据库中检索 2023-2026 年的相关工作。初始共检索 841 篇,去重后剩 565 篇,经过标题与摘要筛选后剩 141 篇,再经全文评估,最终纳入 60 篇。

筛选标准也体现了本文范围:研究必须使用扩散式架构,必须处理图像数据,必须面向医疗或健康场景,并且必须涉及 image inpainting。一般医学图像生成、缺失模态合成或与修复无关的扩散模型工作不纳入核心分析。 这一流程使论文不只是“列论文”,而是有明确证据边界的系统综述:它关注扩散模型如何被具体用于医学图像修复,而不是泛泛讨论医学生成模型。

三、扩散模型分类:从 DDPM 到 LDM

论文首先比较了深度生成模型家族:自编码器、GAN、Transformer 与扩散模型。不同模型在质量、多样性和计算效率之间有不同取舍。GAN 生成快但训练不稳定,AE 多样性较好但样本可能更模糊,扩散和 Transformer 模型通常能在质量与覆盖性之间取得更好平衡,但推理成本较高。

论文提出了扩散模型理论分类,将医学图像修复中的方法归入四个主要家族:Denoising Diffusion Probabilistic Models、Latent Diffusion Models、Score-Based Generative Models 和 Stochastic Differential Equations。

DDPM 通过离散 Markov 链逐步向数据添加高斯噪声,并训练网络反向去噪。LDM 把扩散过程放在潜空间中进行,先用自编码器压缩图像,再在低维 latent 上去噪,从而降低计算成本。Score-based 方法学习数据分布对数密度梯度,通过 score matching 和 Langevin 动力学采样。SDE 方法则把扩散过程推广到连续时间,用随机微分方程统一描述正向扰动和反向生成。

对医学图像修复而言,模型选择并不只是理论问题。DDPM 通常在重建质量上表现稳健,但采样较慢;LDM 更适合高分辨率医学图像,因为潜空间扩散能显著降低资源开销;条件 LDM 可进一步纳入文本、掩码、类别或模态信息;SDE 与 score-based 方法在理论表达上更统一,但实际应用数量相对少。

四、核心架构:DDPM 与 LDM

DDPM 是文献中最常见的扩散模型家族。其基本流程是:正向过程逐步把原始图像变成噪声,反向过程训练神经网络预测噪声或恢复干净图像。在医学图像修复中,模型还会结合 mask、条件图像或上下文区域,使网络只重建缺失或损坏区域。

LDM 则把扩散过程移动到潜空间。输入图像先经 encoder 映射为 latent 表示,扩散模型在 latent 上学习去噪,最后通过 decoder 重建图像。由于医学图像常具有高分辨率和大体积数据特点,LDM 的压缩优势非常重要。

论文指出,在所综述的工作中,DDPM 和 LDM 是主导架构。DDPM 数量最多,说明标准去噪扩散仍是当前医学修复研究的基本范式;LDM 数量紧随其后,反映出领域正在转向更高效、更适合大规模医学影像的潜空间建模。

五、研究趋势与应用分布

论文统计显示,扩散模型医学图像修复研究在 2023-2025 年增长明显。纳入综述的工作中,2023 年有 7 篇,2024 年 16 篇,2025 年达到 32 篇,2026 年截至论文检索时为 5 篇。这说明该方向仍处于快速扩张阶段。

从模型家族看,DDPM 有 34 篇,LDM 有 20 篇,SDE 有 3 篇,score-based 方法有 2 篇,Diffusion Transformer 有 1 篇。当前应用仍以 DDPM 和 LDM 为主体,DiT 类方法在该领域尚处早期。

从医学模态看,MRI 和 CT 是最常见的研究对象,分别对应 21 篇和 15 篇;其他还包括组织病理、乳腺摄影、OCT、结肠镜、超声等。这与临床需求和公开数据可得性有关:MRI/CT 数据量较大,且伪影去除、肿瘤修复、缺失区域补全等任务更常见。

论文将应用场景归纳为四类。第一是 artifact removal,即伪影去除,处理运动伪影、金属伪影、不完整采样等问题。第二是 data augmentation,用修复或生成方式扩充数据,提升分割、分类等下游任务。第三是 pseudo-healthy tissue inpainting,即伪健康组织重建,常用于异常检测:把病灶区域修复成健康组织,再通过差异定位异常。第四是其他应用,包括缺失区域恢复、图像补全、模态相关任务等。

六、评价指标与案例研究

医学图像修复评价仍以图像质量指标为主。论文统计发现,SSIM 和 PSNR 是最常用指标,均出现在 53.3% 的研究中;DSC 出现在 28.3% 的工作中,常用于下游分割或结构重叠评价。其他指标虽然频率较低,但在临床相关性、感知质量和任务性能方面有补充价值。 不过,这也暴露出一个问题:PSNR/SSIM 衡量的是像素或结构相似性,不一定等同于诊断可靠性。一个图像可能 PSNR 很高,但关键病灶被弱化;也可能视觉质量好,却在下游诊断上引入偏差。因此,论文强调未来需要更标准化、更临床相关的评价协议。 论文还进行了一个案例研究,在 BraTS 和 TCGA 数据集上统一评测多个公开扩散修复方法,并设置三种缺失机制:MCAR、MAR 和 MNAR,分别代表完全随机缺失、随机缺失和非随机缺失。评价指标包括 PSNR、SSIM 和计算时间。

结果显示,不同模型的优势并不一致。NeuroLIT 在多个设置下取得较高 PSNR,TPDM 在 SSIM 和时间方面表现突出,PathoPainter、DM_Inpainting 等方法在特定数据集或缺失机制下也具有竞争力。这说明医学图像修复不存在单一万能模型,模型选择需要考虑模态、缺失机制、目标任务和计算约束。

七、挑战与未来方向

论文总结了该领域的几个关键挑战。 首先是 benchmark 不统一。不同研究使用的数据集、缺失 mask、评价指标和实验协议差异很大,使得方法之间难以公平比较。本文案例研究尝试用统一设置评测多个方法,但领域仍需要更大规模、更公开、更贴近临床场景的标准 benchmark。 其次是数据集多样性不足。当前研究集中在 MRI 和 CT,其他模态如超声、OCT、内镜、病理切片等还不充分。不同模态有完全不同的噪声机制、结构特征和临床任务,不能简单假设一个模型能跨模态泛化。 第三是临床验证有限。很多工作报告 PSNR、SSIM 或 FID,但较少验证修复结果是否真的改善诊断、分割、风险分层或治疗规划。医学修复模型一旦用于临床流程,必须避免 hallucination 式补全,尤其不能生成不存在的结构或抹去真实病灶。 第四是模型效率问题。扩散模型推理通常较慢,医学图像又常常是高分辨率 2D 或 3D 数据,部署成本明显高于自然图像。LDM、加速采样、蒸馏和轻量化网络可能成为未来关键方向。 第五是可解释性和不确定性。医学图像修复需要知道模型在哪些区域可信、哪些区域不确定。未来方法需要输出不确定性估计,或者结合医生可解释反馈,使修复结果能被审查、追踪和校正。

八、总结

这篇综述的价值在于,它把扩散模型医学图像修复从零散方法整理成了一个可讨论的研究地图:从模型家族看,DDPM 和 LDM 是主流;从任务看,伪影去除、数据增强、伪健康组织重建和异常检测是主要应用;从模态看,MRI 与 CT 占据主导;从评价看,PSNR/SSIM 仍是常用指标,但远不能覆盖临床可靠性。 对研究者而言,下一阶段的重点不只是提高图像质量分数,而是建立面向真实医疗场景的完整验证链条:更统一的数据与 mask 生成机制,更贴近诊断任务的评价指标,更广泛的模态覆盖,更高效的推理框架,以及能够量化不确定性的可审查模型。 扩散模型已经证明自己能生成解剖上合理的医学图像修复结果。真正困难的问题在下一步:如何让这些结果可信、可解释、可复现,并最终在临床任务中带来可靠收益。

成为VIP会员查看完整内容
1

博士论文 | 从算法到基础模型:强化学习的统一视角

导读

强化学习正在经历一次范式扩展。经典强化学习关心智能体如何在环境中通过试错最大化长期回报;多智能体强化学习进一步引入竞争、协作、均衡与激励;而在基础模型时代,生成模型、扩散模型、视频世界模型和长时序记忆又开始成为决策系统的一部分。Zihan Ding 的 Princeton 博士论文《Reinforcement Learning: From Algorithms To Foundation Models》正是围绕这条主线展开:从算法基础走向基础模型,从博弈中的策略学习走向能建模世界、生成未来、服务规划与控制的新型 RL 系统。 这篇论文不是单一方法论文,而是一组相互衔接的研究:前半部分研究游戏中的多智能体 RL,包括两人零和博弈、复杂视频格斗环境和多人一般和博弈;后半部分研究基础模型时代的 RL,包括扩散世界模型、Consistency 模型作为策略、少步视频生成的 RL 后训练、交互式视频世界模型,以及带记忆的长时序世界模型。 如果要用一句话概括,论文试图回答的是:当强化学习从小规模 MDP 走向复杂交互环境和生成式基础模型时,算法、模型和系统应如何共同演化?这也是当前智能体研究、世界模型研究和生成式 AI 后训练共同面对的问题。

论文信息

论文题目:Reinforcement Learning: From Algorithms To Foundation Models 作者:Zihan Ding 学校:Princeton University 院系:Department of Electrical and Computer Engineering 导师:Chi Jin 论文时间:2026 年 5 月 arXiv:2607.17560v1 链接:https://arxiv.org/pdf/2607.17560

一、强化学习的统一框架

论文第一部分先回到强化学习的基本问题:智能体与环境交互,基于状态选择动作,环境返回下一个状态和奖励,智能体通过策略优化最大化长期累计回报。这个框架看似简单,却可以承载从游戏、网络系统到机器人控制、视频生成和世界模型的多种问题。

在单智能体环境中,核心对象包括 MDP、策略、价值函数、Bellman 方程、值迭代和策略梯度。论文用这些内容建立统一语言:状态转移描述世界如何变化,奖励定义目标,价值函数评估未来收益,策略优化则把智能体推向更高回报。 但真实智能系统往往不只面对一个固定环境。其他智能体的行为会改变环境,奖励函数可能彼此冲突,最优策略也不再只是单个智能体的最优,而要考虑 Nash 均衡、Markov game、potential game 等博弈结构。论文由此自然进入多智能体强化学习:从“如何最大化自己的回报”扩展到“如何在其他策略也在变化的系统中学习稳定、不可轻易被利用的行为”。 这也是论文标题中“From Algorithms To Foundation Models”的第一层含义:RL 先要有清晰的算法与博弈基础,之后才能进入更复杂的基础模型时代。

二、游戏中的强化学习

论文第二部分聚焦游戏场景。游戏是强化学习的重要试验场,因为它同时具备明确目标、可控环境、多样策略空间和可重复评测。作者先研究两人零和 Markov game,提出 Nash-DQN 与 Nash-DQN-Exploiter,将单智能体 DQN 与 Nash 均衡求解思想结合,试图在连续状态和函数逼近条件下学习更难被 exploit 的策略。 Nash-DQN 的关键在于,不再只学习单个动作价值,而是在每个状态下近似一个两人博弈的 Q 矩阵,并基于 Nash 策略进行行动选择。Nash-DQN-Exploiter 则额外训练一个利用者,让主智能体暴露弱点并被迫改善。这种设计把探索过程与对抗压力结合起来:智能体不是在随机扰动中被动探索,而是在对手不断寻找漏洞的过程中修补策略。 论文随后将这一思想推向更真实的游戏环境,构建 FightLadder 基准。相比棋盘或小型表格博弈,格斗游戏具有像素输入、连续动作节奏、复杂时序依赖和强对抗性,更接近真实多智能体系统中的非平稳学习挑战。

FightLadder 的意义不仅是“多了一个游戏环境”,而是把 fully competitive two-player setting 做成可系统评测的研究平台。论文强调,现有多智能体基准很多偏合作或小规模,而完全竞争环境中,策略之间的可利用性、种群训练、Elo 分布和 payoff matrix 都是重要指标。一个真正好的竞争型智能体,不能只在固定对手上得分高,还要在面对新的 exploiter 时保持稳健。

三、从零和到一般和

在两人零和游戏中,一个玩家收益的增加对应另一个玩家收益的减少,Nash 均衡有相对清晰的结构。但现实系统往往是多人一般和博弈:不同智能体既可能冲突,也可能部分一致;整体系统目标可能是公平性、稳定性、吞吐或资源效率,而不是某个玩家的单独胜负。 论文第五章以网络负载均衡为例研究多人一般和环境。每个负载均衡器只能看到局部观测,需要把请求分配到服务器,同时与其他负载均衡器共同影响系统延迟和公平性。这一问题天然具有部分可观测、多智能体耦合和实时决策属性。

这一章的理论支点是 Markov potential game。它把多智能体的局部激励与一个全局 potential function 联系起来:虽然每个智能体只做自己的局部更新,但如果激励结构满足某些条件,整体系统可以被一个全局势函数刻画。这为分布式 RL 提供了桥梁:不必让每个智能体掌握全局信息,也能通过合适的奖励设计和潜在博弈结构逼近稳定解。 从公众号读者角度看,这部分最值得关注的是“RL 如何进入系统工程”。网络负载均衡并不是漂亮的 benchmark,而是具有延迟、吞吐、公平性和观测限制的真实基础设施问题。论文把一般和博弈、分布式 actor-critic 和系统指标结合起来,展示了多智能体 RL 从游戏走向真实系统的一种路径。

四、基础模型时代的世界模型

论文第三大部分进入 foundation models。这里的关键变化是:RL 不再只从环境交互中学习,也可以借助预训练生成模型和世界模型。基础模型提供先验,世界模型提供未来预测,策略优化可以在“想象出来”的轨迹中进行。 第六章提出 Diffusion World Model。传统 model-based RL 常用一步动力学模型反复 rollout,但长 horizon 下误差会逐步累积。扩散世界模型则试图一次建模多步未来轨迹:给定当前状态、动作和目标回报,模型生成未来若干步状态与奖励,从而降低逐步预测带来的 compounding error。

论文把 DWM 接入离线 RL:先用离线数据训练扩散世界模型,再用它生成 imagined data 或做 value expansion,辅助 actor-critic 学习。这里的核心优势有两点。第一,扩散模型能表达复杂、多模态的未来轨迹分布,不必把未来压成单一确定性预测。第二,它能够直接生成多步未来,使规划和价值估计更少依赖逐步滚动。 这部分与今天“世界模型 + 智能体”的讨论高度相关。一个智能体如果能在内部模拟未来,就可以在真实交互成本很高时进行离线规划;而生成式世界模型的作用,正是把环境动态、奖励结构和长期结果压进一个可采样的模型中。

五、生成模型作为策略

第七章讨论 Consistency Models as Reinforcement Learning Policy。扩散策略能够表示多模态动作分布,但多步去噪带来较高训练和推理成本。Consistency 模型则试图用更少采样步骤得到高质量动作,因此适合作为更高效的策略类。 论文设计了 Consistency-BC 和 Consistency-AC。前者用于行为克隆,后者把 consistency policy 嵌入 actor-critic 框架,并用 BC 正则避免生成离线数据分布之外的动作。实验显示,Consistency-AC 在部分任务上略低于 Diffusion-QL,但在计算效率上更有优势,并能在 offline、offline-to-online 和 online 设置中形成可行的权衡。 这一章的重点不只是“换一种策略网络”,而是把生成模型的表达能力带入 RL 策略空间。传统高斯策略对多模态行为建模较弱;扩散和 consistency policy 能更自然地表示“同一状态下多个合理动作”。这对离线 RL 尤其重要,因为离线数据常由多个行为策略混合而来,动作分布本身就是多模态的。

六、RL 后训练少步视频生成

第八章将 RL 与视频生成结合,研究 few-step video generation。扩散视频模型通常生成质量高,但推理步数多、成本高;少步生成器速度快,但可能牺牲质量、多样性或奖励对齐。论文提出 DOLLAR,将 variational score distillation、consistency distillation 和 latent reward fine-tuning 结合起来,使少步视频生成器在效率和质量之间取得更好平衡。

这里的 RL 思想体现在 reward fine-tuning:视频生成结果不只要拟合训练分布,还要满足美学、文本一致性、运动质量或人类偏好等奖励指标。直接在像素空间通过大型奖励模型反向传播会非常昂贵,因此论文引入 latent reward model,在潜空间中近似奖励信号,从而降低显存和计算负担。 这一章说明,RL 在基础模型时代的角色正在变化。它不只是控制智能体在环境中拿奖励,也可以作为生成模型的后训练工具,用奖励模型把少步生成器推向更符合偏好的输出分布。

七、视频世界模型与交互式生成

第九章研究 Video World Model,重点是交互式长视频生成。普通视频生成模型往往给定提示后生成一段视频,但世界模型需要更强的交互性:动作会影响未来观察,历史状态需要被记住,长期生成还要避免误差累积。 论文提出 VRAG,即 Retrieval Augmented Video World Model with Global State。它在视频生成中引入全局状态条件和记忆检索机制:历史帧、动作和状态被保存在 buffer 中,模型通过相似性检索获取相关记忆,再作为上下文参与 DiT block 的自注意力。

VRAG 的核心问题是长期一致性。视频世界模型如果只依赖有限上下文,很容易在长时间生成中忘记早期状态;如果简单扩大上下文,又会带来训练和推理成本。检索增强提供了折中:不是把所有历史都塞进上下文,而是动态取回对当前生成最有用的记忆。 这与 LLM 中的 RAG 有相似精神,但对象从文本变成了视频世界状态。对于具身智能、游戏 agent、长时序模拟和交互式视觉环境来说,模型不仅要“看起来真实”,还要在动作干预下保持可控和连贯。

八、带记忆的长时序世界模型

第十章继续推进长期世界建模,提出 Recurrent Autoregressive Diffusion。普通 DiT 视频模型擅长空间与局部时序建模,但长序列生成需要一种能跨越窗口传递信息的记忆机制。RAD 在 DiT block 中加入 RNN memory block,并结合 spatial attention、temporal attention 与 recurrent state,让模型在生成长视频时保留全局记忆。

论文还比较了 chunk-wise 与 frame-wise 两种自回归方式。chunk-wise 把视频分块处理,效率更高但时间依赖更粗;frame-wise 逐帧递归,能更细粒度地传递隐藏状态。为了提高训练效率,论文还设计 hidden state prefetch,使 frame-wise RNN 可以更好地并行注意力计算。

这部分的长期意义在于:世界模型不是短视频生成器,而应成为能持续滚动、记忆过去、响应动作并预测未来的动态系统。对于通用智能体来说,记忆不是额外插件,而是世界建模架构的一部分。

九、总结

这篇博士论文的贡献可以分成两条线。第一条线是算法与博弈:从单智能体 RL 出发,进入两人零和博弈、竞争型视频游戏和多人一般和系统,强调策略学习必须面对非平稳性、均衡、可利用性和分布式激励。第二条线是基础模型与生成式世界建模:从扩散世界模型到 consistency policy,再到少步视频生成、VRAG 和 RAD,强调预训练生成模型可以成为规划、控制、策略表示和长期模拟的核心组件。 更重要的是,论文把强化学习放在了一个更大的智能系统图景中。经典 RL 提供目标驱动的适应机制,博弈论提供多智能体交互的稳定性语言,基础模型提供强先验和生成能力,世界模型提供面向未来的内部模拟。未来的智能体很可能不是单靠其中某一块,而是在这些组件之间形成闭环:观察世界、建模未来、用奖励或偏好调整行为,并在多智能体环境中保持稳健。 从研究趋势看,这篇论文也提示了几个值得继续关注的方向:多智能体 RL 如何在真实系统中稳定落地;生成模型策略如何在表达能力和推理效率之间平衡;视频世界模型如何从“生成好看视频”走向“可交互、可控制、可长期一致的环境模拟”;以及 RL 后训练如何成为基础模型对齐、控制和智能体化的重要机制。 强化学习的下一阶段,或许不再只是寻找更强的单一算法,而是把算法、生成模型、世界模型、记忆和多智能体系统整合成能够长期行动的基础设施。这正是这篇博士论文最值得读的地方。

成为VIP会员查看完整内容
4

现代战争正在以机器速度被重新定义。随着威胁变得更加迅捷、分散且依赖数据驱动,全球各国防力量正纷纷转向自主无人机与蜂群无人机,以期获取决定性优势。从边境监视到争议空域的作战任务,军用无人机已不再是可选的支援资产,而是日益成为各国军队开展筹划、感知与打击行动的核心要素。

本文系统梳理了国防领域最重要的自主无人机系统,阐释了军用蜂群无人机技术的工作原理,并就国防采购团队、系统集成商与技术领导者在这一高速发展领域最常提出的核心问题予以解答。

何为国防领域的自主无人机?

自主无人机是指能够在极少甚至无需人工干预的情况下执行任务的无人驾驶航空器(UAV)。与需要专人操控每一个飞行动作的遥控无人机不同,自主系统依托机载传感器、边缘计算与人工智能,能够实时做出决策——独立完成地形导航、规避障碍、识别目标及调整飞行路径。

在国防作战中,自主性绝非仅为便利之举,更是力量倍增器。如今,一名操作员即可同时监控数十架飞行器;通信延迟不再阻滞关键决策;即便在GPS或数据链遭干扰、拒止的环境下,平台仍能持续运行。

定义现代国防自主无人机系统的核心能力包括:

  • 基于惯性导航、视觉定位与地形匹配的自主导航能力
  • 由机载机器学习模型驱动的实时目标识别能力
  • 可根据环境变化自适应调整航线的自愈式任务规划能力
  • 适用于争议性电子战环境的拒止GPS环境运行能力
  • 融合雷达、光电/红外(EO/IR)、激光雷达及信号情报的传感器融合能力

蜂群技术的崛起

如果说自主无人机代表了单体平台的智能水平,那么蜂群无人机技术则代表了集体层面的智能。蜂群系统可部署数十、数百乃至数千架协同作业的无人机,这些无人机通过实时通信实现互联,在不存在单点故障的前提下分布式执行任务、共享传感数据,并自适应调整编队与行为模式。

这种从单体平台自主向网络化、协作式自主的转变,堪称过去数年间无人防御技术领域最具颠覆性的变革。

蜂群的战略价值

  • 冗余带来的韧性——个别单元的损毁不会导致任务失败
  • 饱和攻击能力——蜂群可压制专为追踪有限数量单个威胁而设计的敌方防空系统
  • 分布式感知——相比单一高价值平台,蜂群可覆盖更广地域并获取更丰富的情报
  • 成本非对称优势——由低成本无人机组成的蜂群可牵制或摧毁成本高昂得多的防御资产,从而改变现代冲突的成本经济学

各国军事规划者日益将蜂群无人机视为既定现实,而非未来概念,目前多战区已开展相关实战测试与列装部署。

军用蜂群无人机技术工作原理

任何蜂群系统的核心都是网状通信网络,使无人机能够持续交换位置、传感与任务数据。每个单元通常运行轻量级AI模型以实现本地决策,而更高层级的蜂群算法则统筹集体行为——其原理类似于鸟群或鱼群在没有中央控制的情况下自发协调运动。

最先进的军用蜂群无人机技术依托分层架构实现:

  1. 单机边缘人工智能——支持目标检测、避障与威胁分类,无需持续连接指挥中心
  2. 蜂群智能算法——统筹编队控制、任务分配与群体目标优先级排序
  3. 弹性网状组网——即使个别节点损毁或部分通信中断,仍能确保蜂群持续运行
  4. 人机协同接口——赋予指挥官高层控制权(如任务目标、交战规则),而具体执行由蜂群自主管理 该架构使蜂群能够执行复杂任务,如协同侦察扫荡、多角度同步打击或周界防御——所需人力仅为传统作战的一小部分。

人工智能赋能的国防无人机:边缘端的智能

人工智能赋能的国防无人机是单体自主与蜂群协同得以实现的基础。机载人工智能可处理以往需人工分析师事后研判的影像数据——如今这一切均在飞行中实时完成。

现代国防无人机中的核心AI功能包括:

  • 基于计算机视觉的物体与车辆分类
  • 用于识别异常部队或车辆调动的异常检测
  • 基于生活模式分析的预测性威胁建模
  • 即便在遮挡或规避机动中仍能保持锁定的自主目标跟踪
  • 自然语言任务下达,允许操作员发布高层指令而非手动飞行指令

向机载AI处理的转型还减轻了卫星与无线电带宽的负担,因为无人机仅需传输经过预处理的关联情报,而非原始视频流——这在通信受限或带宽紧张的环境中具有关键优势。

自主作战无人机系统:核心评估要素

对于评估自主作战无人机系统的国防机构而言,区分成熟可用平台与原型样机的关键因素包括:

  1. 自主等级:系统涵盖从部分自主(武器发射需“人在环内”)到完全自主(“人在环上”,仅保留监督控制权)。当前大多数国防部署仍遵循国际规范与交战规则,保留人类对致命行动的最终授权。
  2. 生存性与隐身能力:低雷达散射截面设计、降噪声学特征及抗电子战能力,决定了平台在争议空域的生存概率。
  3. 载荷灵活性:支持情报监视侦察(ISR)传感器、电子战设备或精确弹药的模块化载荷舱,使单一机体具备多任务能力。
  4. 续航与航程:滞空时间与作战半径直接影响单次任务可覆盖的地域范围,直至需加油或更换电池。
  5. 互操作性:能否与现有指挥控制系统、北约数据链标准及联合作战网络集成,往往是采购决策的决定性因素。

面向现代军事任务的人工智能蜂群无人机

人工智能蜂群无人机在现代军事场景中的实战任务集持续拓展: • 情报、监视与侦察(ISR):蜂群可同时覆盖广阔地理区域,向指挥中心回传统一的实时态势图。 • 电子战与干扰:分布式蜂群可在宽大正面压制敌方雷达与通信。 • 诱骗与佯动作战:低成本蜂群单元可模拟大规模编队,诱使敌方开火并消耗昂贵的拦截导弹。 • 边境与周界安防:持久蜂群巡逻可消除疲劳导致的监控盲区,探测并追踪入侵行为。 • 战区搜救:蜂群可快速扫描广阔区域定位人员,降低搜救分队的风险。 • 协同打击行动:多架无人机从不同方向同时突防,打乱敌方防御反应节奏。

面向情报与作战任务的高级自主无人机系统

领先防务技术供应商正趋于一个共识:构建融合长航时ISR平台与可损耗蜂群打击无人机的高级自主无人机系统,打造分层、梯队化的力量结构。

这种梯队化部署通常包括:

  • 用于持久ISR与战略级态势感知的高端长航时自主无人机
  • 用于班排级战术侦察的中层战术无人机
  • 用于饱和攻击、诱骗或打击任务的大规模低成本可损耗蜂群单元

该分层结构使军队能够平衡成本、风险与能力——将昂贵的高价值资产保留用于战略任务,同时对可损耗蜂群单元保持更高的风险容忍度。

国防机构的获益

采用自主与蜂群无人机技术的机构已收获可量化的作战优势:

  • 在高威胁环境中降低人员风险
  • 通过AI实时处理的情报加速决策周期
  • 相比传统载人平台降低全寿命周期成本
  • 在不成比例增加人力的前提下实现可扩展的力量投送
  • 通过分布式冗余系统提升任务持久性

挑战与考量

尽管技术进步迅速,防务领导者仍需应对现实挑战:

  • 规范自主武器使用的法规与伦理框架
  • 网络化蜂群通信伴随的网络安全风险
  • 对手正在发展的反无人机与反蜂群防御手段
  • 与传统指挥控制基础设施集成的复杂性
  • 大规模人机协同所需的训练与条令建设 采购团队评估供应商时,应优先考虑具备成熟互操作性、透明AI决策逻辑及强健网络安全架构的系统。

常见问题解答

问:自主无人机与蜂群无人机有何区别 答:自主无人机依托机载AI独立完成导航与决策,而蜂群无人机是由多架自主单元组成的群体,通过相互通信与协同行为共同完成共享任务目标。

问:当前军用无人机是否已实现完全自主

答:当前现役军用无人机多采用混合自主模式——具备导航、目标识别、避障等自主功能,但根据现行交战规则,武器发射决策仍保留“人在回路”或“人在环上”机制。

问:人工智能赋能的国防无人机如何提升任务成效

答:它们能够在机载端实时处理传感数据,相比依赖人工地面分析的系统,可实现更快速的威胁检测、降低带宽依赖并加快决策速度。

问:各国军方为何投资蜂群无人机技术

答:蜂群具备韧性、成本效益高的规模化优势,并能压制传统防空系统,使其成为高价值有人/无人平台极具战略价值的补充力量。

问:哪些行业研发自主作战无人机系统?

答:主要研发主体包括大型防务承包商、专业无人机制造商,以及专注于国防的AI与机器人公司,它们通常与政府研究机构及武装部队合作开展测试与集成。

结语

自主性、人工智能与蜂群协同的融合,正在从战场侦察到战略威慑的各个层面重塑国防作战。随着国防自主无人机系统日趋成熟,随着军用蜂群无人机技术从试验阶段迈向实战部署,率先投资具备互操作性、AI赋能平台的防务机构,将在未来冲突中占据最佳优势地位。

对于防务技术提供商、系统集成商与采购决策者而言,信息已然明确:自主与蜂群无人机能力已非新兴趋势,而是正在成为现代军事战备的基础要求。

参考来源:https://www.defence-industries.com/articles/best-drone-technologies-for-defense

成为VIP会员查看完整内容
7

摘要 随着人工智能(AI)赋能系统与人类操作员的融合日益深入,各领域对无缝协作的需求愈发迫切。精准的人类行为建模可使人工智能系统预判人类决策,并主动调整自身行为以辅助人类完成复杂任务。现有研究多聚焦于个体人类行为建模,本文则针对面向协作目标的异构团队内部人类行为进行建模。此类团队成员通常具备各异的技能、知识与认知水平,这些因素显著影响其决策过程。本文将团队行为建模为一种次优的混合式多智能体强化学习范式,通过融合集中式训练与“集中式/分散式”混合执行机制,模型能够刻画从完全集中式到完全分散式乃至中间状态的连续团队行为谱系。本文对各团队成员的认知水平与沟通能力进行了量化建模,实现了基于观测数据对上述参数的逆学习推断。数值实验验证了该框架在不同场景与团队构成下的鲁棒性与准确性,凸显了其在模拟复杂人类交互行为方面的有效性。

关键词:逆学习;多智能体强化学习;人类行为建模

图1 团队场景下人类沟通范围与认知范围示意图。位于中心位置的个体可与紫色智能体(处于沟通范围内)进行信息交互,并能观测到红色智能体(处于认知范围内)。

随着人工智能系统日益融入传统由人类主导的领域,实现人机高效协作变得至关重要。典型案例包括:网络空间内协助人类检测并抵御对抗攻击的人工智能系统(Sarker, 2023;Kazeminajafabadi和Imani, 2023);制造业中与人类协同作业以提升效率与精度的机器人(Matheson等, 2019);未知环境中由自主系统辅助人类导航与分析的人工智能驱动勘探任务(Wu等, 2019;Shafti等, 2020;Imbiriba等, 2019);以及灾害响应等场景中辅助关键决策的安全应用(O'Neill等, 2022;Unhelkar等, 2020)。因此,构建精准的人类行为模型是实现无缝人机协作的基础,有助于人工智能体预判人类行动,进而提升安全性与协作效能(Hong等, 2020;Lin等, 2024)。

近年来涌现出多种人类行为建模方法,包括通过监督学习模仿人类动作的模仿学习(Le Mero等, 2022),以及推断驱动人类决策潜在奖励函数的逆强化学习(Arora和Doshi, 2021;Hoffman等, 2024;Casper等, 2023)。其中,最大熵逆强化学习(Ziebart等, 2008)等代表性方法通过建模最大化奖励与熵的行为来处理不确定性。此外,生成对抗模仿学习(Ho和Ermon, 2016)利用对抗训练机制模拟人类行为。然而,这些方法主要设计用于个体行为建模,依赖于个体执行相似任务的轨迹数据,已广泛应用于自主导航(Vasquez等, 2014;Alali和Imani, 2024)、人机交互(Liu等, 2022)及博弈场景(Cao和Xie, 2022;Hosseini和Imani, 2024),其优势在于单智能体行为刻画(Wilder等, 2021)。尽管这些方法在个体建模上成效显著,但由于团队动力学的复杂性,将其拓展至多智能体场景仍面临挑战。

近期将逆强化学习拓展至多智能体场景的研究,旨在将单智能体模型推广至人类团队。然而,这些方法往往只能捕捉同质团队行为,即所有成员均在完全集中式或完全分散式模式下运作。集中式模型假定所有成员能够持续、完整地获取彼此信息(Natarajan等, 2010;Suresh等, 2024),但这在复杂的现实环境中并不现实——个体通常仅掌握局部或角色特定的队友信息(Zarei和Shafai, 2024)。另一方面,完全分散式模型(如基于QMix(Rashid等, 2020)或多智能体近端策略优化(PPO)(Yu等, 2022;Ahmad等, 2024)的模型)将团队视为孤立个体的集合,成员间不交换信息,亦不了解队友状态。此类模型同样无法反映真实人类团队的异质性,即成员在沟通技巧、知识储备与认知水平上的差异。这些属性显著影响团队内部的互动与决策过程,导致复杂的团队动力学,是单纯的集中式或分散式模型难以充分刻画的(Tabrez等, 2020;Zhang等, 2025;Iftikhar等, 2023)。

本文提出一种创新性混合框架,旨在解决现有团队动力学建模的局限性。该框架提供了一种灵活且鲁棒的模型,充分考虑了异构人类团队协作决策中个体差异化的认知水平与沟通能力。例如,部分成员可能与队友频繁交流信息,而其他成员则可能仅掌握有限的队友信息甚至一无所知。本模型重点捕捉影响人类决策的两大核心特征:认知水平,反映个体对队友状态的掌握程度;沟通能力,表征个体共享任务相关信息的广度。我们假设沟通围绕团队需协同完成的一组子任务展开,从而实现对团队高层共享心智的有效建模。模型采用集中式训练与“集中式/分散式”混合执行机制,能够学习适配不同认知水平与沟通技能的团队行为策略。基于可获取的观测状态序列数据,本研究构建了逆学习框架,以估算最能解释观测数据的全体成员认知水平与沟通能力参数。分析结果表明,完全集中式与完全分散式模型均为本文模型的特例,而所提模型能够覆盖更广泛的团队行为谱系。此外,本文还论证了代表个体决策随机性程度的人类理性水平如何影响团队建模性能。数值实验验证了该框架在不同团队构成与场景下的鲁棒性与适应性,证明了其在精准建模复杂异构人类交互行为方面的有效性。

成为VIP会员查看完整内容
6

摘要

现代指挥、控制、通信、计算机、网络、情报、监视与侦察(C5ISR)环境对任务指挥官(MC)的注意力分配提出了极高要求。在这类高风险、高代价的复杂场景中,注意力分配失当可能引发严重后果。本研究依托高保真模拟军事指挥中心,探究了基于注视驱动的注意力引导(含纯视觉与多模态两类)自适应决策支持工具(DST)的有效性,以及影响任务指挥官绩效的潜在注视动力学机制。为解析被试与注意力引导型自适应决策支持工具交互过程中的注视与注意力动态特征,研究采用递归量化分析(RQA)方法处理眼动追踪数据,并运用基于贝叶斯信息准则(BIC)的逐步回归模型识别可预测绩效得分的递归量化分析指标。回归结果显示,多模态自适应决策支持工具的绩效表现显著优于纯视觉注意力引导型自适应决策支持工具。递归量化分析指标中,平均对角线长度(L)与绩效水平呈负线性相关,而熵值(ENTR)与绩效呈正线性相关。此外,递归率(RR)、确定性(DET)与熵值(ENTR)均与绩效存在非线性二次关系,其中递归率与确定性呈现符合耶克斯-多德森定律的倒U型曲线特征。上述发现表明,动态任务环境要求决策者兼具结构化扫描行为与动态化扫描策略,方能实现最优绩效。

关键词:决策支持工具;递归量化分析;指挥与控制

图1 模拟测试平台及其显示布局。任务指挥官依托模拟无人机与E-3空中预警与控制系统获取的信息开展监控并制定决策。

现代指挥、控制、通信、计算机、网络、情报、监视与侦察(C5ISR)环境已呈现数据饱和态势,对任务指挥官的认知极限构成了前所未有的挑战。尽管人工智能与实时传感技术的进步旨在提升战场态势感知清晰度、降低认知负荷,但海量数据的涌入速度往往超出人类信息处理能力的上限。在此类场景中,维持态势感知(SA)已不再仅仅是获取数据访问权限的问题,更关乎视觉注意力资源的高效分配,直接关系到任务成败(Demir等,2023;Endsley,2001;Endsley等,2003;Humr等,2023)。当任务指挥官需要在高信息密度的界面中进行导航时,“信息漏检”风险便成为决策链路中的关键脆弱点(Curts和Campbell,2001;Endsley和Garland,2000)。

信息过载易在现代军事指挥体系中形成注意力瓶颈(Giles,2019;Shackelford和Lily,2026)。学界已充分证实,人类认知资源具有有限性与易耗竭性(Rogers,2023;Tsotsos等,1995),且在信息过载状态下注意力会自然分散(C. D. Wickens,1976)。在C5ISR这类高风险场景中,注意力分散可能导致作战链路阻塞。虽然选择性注意机制有助于任务指挥官优先处理高价值信息,但也可能诱发“隧道视觉”效应,导致关键边缘信号漏检、响应显著延迟或态势感知丧失(Endsley等,2003)。C5ISR环境要求任务指挥官同时监控多个视觉显示屏,这对注意力管理能力提出了严峻考验。在此类动态环境中,精准的注视行为与有意识的认知投入——二者均以合理的注意力分配为前提——是构建有效信息处理闭环、支撑及时决策的必要条件。当分散注意力的需求超出任务指挥官的认知容量时,由此产生的认知摩擦将导致决策失效,表现为重要数据虽被感知却未被加工为决策输出。因此,当代战场与C5ISR环境迫切需要能够引导人类指挥官注意力的辅助工具。 眼动追踪是人因工程文献中研究注意力分配最常用的方法。多数眼动研究聚焦于静态兴趣区(AOI)内的注视次数、注视时长等时间汇总指标。然而,这类常规方法往往忽略了人类注视行为固有的时间依赖性与动态组织特征(Mahanama等,2022)。通过引入时间维度,眼动分析能够揭示视觉注意力动态中更为精细的特征,例如扫视路径结构、注视(不)稳定性及注视回归模式。因此,视觉注意力动态特征不仅可作为区分不同实验条件的差异化指标,更能成为预测整体决策绩效的可靠依据。

在Jei等(2026)的前期研究中,作者测试了面向地面车队护航任务监督任务的、具备自适应注意力引导功能的决策支持工具。实验结果表明,自适应注意力引导决策支持工具显著提升了被试的整体绩效,且该效应在具备相关经验的被试群体中更为显著。但前期研究存在一个局限:注意力引导仅以视觉形式呈现。在指挥官需从多块显示屏获取信息的场景中,部分屏幕可能完全处于指挥官的视野范围之外。此时,无论视觉引导的显著性多高,相关信息仍可能被漏检。因此,亟需研发多模态自适应注意力引导决策支持工具。根据多重资源理论(MRT;Wickens,2008,2021),当信息通过同一通道(如视觉)呈现时,人类认知资源消耗速度更快,因为多条信息需竞争同一认知资源池;而当信息通过不同通道(如视觉与听觉)呈现时,认知资源竞争概率显著降低。此外,不同形态的信息呈现方式还能提升信息的离心度与显著性(C. Wickens,2008,2021)。N-SEEV模型指出,人类操作员注意到某事件或信息的概率随信息离心度与显著性的提升而增加(Wickens,2015;Wickens等,2009)。尽管事件预期价值与重要性也会提升注意概率,但这属于自上而下的认知要素,难以通过注意力引导等外部助推手段直接调控。

多项研究证实,多模态组合能更有效地引导人类注意力至目标区域。例如,Reyes和Alles(2021)发现,在网络物理环境中,视觉与听觉线索的组合显著提升了注意力引导效果。此外,Sheth和Shimojo(2004)及Van der Burg等(2009;2008;2008)的研究表明,多模态刺激能增强视觉搜索任务中视觉目标的显著性。尽管多模态注意力引导已在汽车驾驶(Calvi等,2021)与军事决策场景(Savick等,2008)中得到应用,并显示出提升人类绩效的潜力,但据我们所知,针对军事C5ISR监督控制场景中多模态实时注意力引导的研究仍存在空白。为填补这一空白,本研究在模拟C5ISR环境中开展实验,旨在评估:1)多模态自适应注意力引导决策支持工具是否能进一步提升任务指挥官的整体绩效;2)不同实验条件下视觉注意力动态特征的差异;3)哪些可靠的眼动指标可有效预测任务指挥官的绩效表现。

成为VIP会员查看完整内容
7

本定性案例研究旨在探究设计专业初学者与生成式人工智能的交互如何影响其主导共情访谈的准备与实施过程。本研究具有重要价值,其将人机协作(HAIC)(Song等,2024a)框架应用于共情访谈场景,验证了人工智能作为辅助创意激发者而非唯一权威主体的新型协作模型。研究采用归纳式内容分析法(ICA),以学生与生成式人工智能的聊天记录、访谈转录稿、访谈录音及标准化量规评估结果为基础,构建了6个最大变异案例。研究结果表明,问题生成阶段的人机协作深度直接影响共情访谈质量:未经编辑直接被动采纳ChatGPT输出的学生,其访谈呈现僵化、重解决方案的特征,阻碍共情能力培养;反之,若学生对生成式人工智能输出进行高频修改(手动优化ChatGPT生成的问题以消减偏差、强化叙事导向),则可通过积极倾听与跟进追问建立更深层次的共情联结。上述发现提示,若在设计思维中以共情访谈等人本任务为依托使用生成式人工智能,设计教育工作者及相关从业者必须教授提示词工程与输出优化方法。此外,引入评估性量规与结构化生成式人工智能使用规范,可推动学生从被动采纳者向主动协作者转变,仅需小幅调整输出优化行为,即可确保生成式人工智能对人本设计技能形成补充而非替代效应。

引言

2022年末,生成式人工智能(GenAI)——一类可自主生成文本、图像、计算机代码等原创内容的AI工具(Dhar,2024)——的问世引发范式转移,重塑了技术格局。布莱辛格(2023)将这一节点称为“ChatGPT时刻”,彼时ChatGPT是普及度最广、可及性最高的生成式人工智能工具。ChatGPT是大型语言模型(LLM)(Yao等,2024)的典型代表,这类复杂的神经网络经海量数据集训练而成,构成了诸多生成式人工智能工具的基础。基于各类大模型构建的其他生成式人工智能工具还包括谷歌Gemini(文本生成)、DALL-E(图像生成),以及NotebookLM(科研与笔记管理)等专用应用。“ChatGPT时刻”的特征是早期采纳者群体呈指数级扩张,工具展现出媲美人类的内容生成能力,且使用门槛大幅降低(Blechinger,2023)。ChatGPT可完成大量创意与技术类任务,例如撰写文章、生成编程代码以构建初步设计方案。生成式人工智能工具的高可及性推动其用户群体持续扩大,在校学生与行业从业者纷纷将其嵌入日常工作流(如软件开发)与教学场景(如科研、头脑风暴)(Brynjolfsson等,2023)。

生成式人工智能的影响远超个体应用场景,已渗透至知识密集与创意类领域(AlZaabi等,2023)。例如建筑师可基于一组设计约束,借助生成式人工智能快速生成多套建筑平面布局方案;平面设计师可在短时间内产出大量营销视觉素材。在以人为本的用户体验/用户界面(UX/UI)领域,设计师利用生成式人工智能绘制用户流图(可视化用户完成任务的全流程),助力快速原型构建。在上述职业场景中,生成式人工智能已承担多重功能,包括但不限于辅助创意生成、自动化重复性任务、为设计师提供灵感(Zhou和Lee,2024)。然而,这类技术融合也引发了关于人类在创意活动中角色定位的争议(Zhou等,2025)。争议核心在于,生成式人工智能应被视为可被驾驭的高级工具、创意过程中的协作伙伴,还是人类的完全替代者(Furtado等,2024)。当生成式人工智能的能力与人类典型技能(如创造力、情感理解)重叠时,相关争议尤为激烈(Zhou和Lee,2024)。本论文立足这一争议,聚焦生成式人工智能能力与设计流程中“共情”这一人类特质的交叉领域。共情是指与他人思想、情感建立联结的能力(Fernandez和Zahavi,2020),是设计思维流程的基础阶段(Brown,2008)。共情是一个多维构念,包含三个核心维度:认知维度(理解感受)、情感维度(共感感受)与意动维度(基于感受采取行动)(Khan等,2022;Watt,2007)。在设计实践中,共情理解能够帮助设计者突破表层假设,深度把握用户需求,进而开发出创新性强、影响力大的解决方案(Carmel-Gilfilen和Portillo,2016;Devecchi和Guerrini,2017;Gasparini,2015)。

人工智能引发的范式转移也给设计教育带来了教学层面的挑战,其融合并非中性技术迭代,而是承载着意识形态与制度层面的深层意涵。传统设计教育的根基是批判性思维、问题解决、模糊情境应对等人本技能,而生成式人工智能可复刻学生作业、替代人类思考,令传统教育者陷入困境(Li等,2024)。尽管生成式人工智能可提升效率、加速内容生成,但其与设计流程的强过程性、人文性属性存在潜在张力。除学术诚信层面的担忧外,生成式人工智能的融入还带来了认知与社会关系层面的风险,共情访谈场景便是典型代表。随着AI模型复杂推理与综合能力的不断提升,学生正面临并将持续面临将认知任务卸载给AI的诱惑(Hooper,2025;Viola和Chiarella,2026)。在高度依赖模糊情境应对能力的设计教育中,这类认知卸载可能导致任务替代:学生不再主动参与共情访谈问题生成的任务,而是直接交由AI完成。此外,过度依赖AI生成的高度可信、权威性强的输出,还可能侵蚀设计初学者的认知能动性,使其从知识建构的主动角色退化为被动学习者(Varghese,2025;Yang和Ma,2025)。

已有研究者就生成式人工智能在设计领域的应用展开探索,发现当生成式人工智能辅助明确问题定义时,可显著提升创意产出的总量(Kim和Maher,2023)。黄与元(2021)指出,参与者以生成式人工智能替代真实人类用户作为反馈源时,产出的设计方案质量更高,原因在于生成式人工智能的评判倾向远低于人类。在设计师自信心相关研究方面,钟等(2022)发现人机协作关系较为复杂:能力较弱的设计师难以识别生成式人工智能基于用户需求、设计质量相关输入生成的输出中存在的缺陷。多位学者已就生成式人工智能对创意生成的影响(Koh,2024)、设计分析阶段的作用(Spreafico和Sutrisno,2023)、ChatGPT对问题定义与构思阶段的支撑价值(Al-sa'di和Miller,2023)、设计可视化领域的应用(Terenzi等,2024)展开研究。另有学者探索了人机协作在设计全流程的嵌入路径,包括早期构思(Camburn等,2020)、晚期构思(Yuan和Moghaddam,2020)、设计团队管理(Gyory等,2022),以及辅助团队问题解决(Zhang等,2021)与复杂系统设计(Song等,2022)。与上述偏流程化、技术化的应用研究不同,针对设计领域共情等人本特质的相关研究仍处于空白状态。

本论文所回应的研究缺口,并非仅关注生成式人工智能在设计教育中的整体角色,更聚焦其对设计流程中某一特定且对新手极具挑战性的阶段的影响:即针对设计对象建立共情理解的过程(Li和Hotta-Otto,2023;Zhu和Luo,2023)。尽管共情在设计中的重要性不言而喻,设计专业初学者仍面临共情培养的诸多障碍,主要表现为将共情与共感混淆,难以把握共情的抽象属性(Gudur,2023),以及在问题界定、用户情绪解读方面存在困难(Dahiya和Kumar,2019;Kim和Ryu,2014)。专家设计师拥有多年隐性经验积累,而初学者的共情认知尚处于萌芽阶段(Chen等,2022)。初学者往往难以突破表层理解,缺乏基于用户洞察开展跟进追问、或在捕捉到细微情绪线索时调整访谈方向的经验(Cross等,1994)。

这并不意味着设计专业初学者完全不具备共情能力。但当前存在一种“共情悖论”:生成式人工智能可快速生成高质量的共情访谈问题,但尚不清楚该工具的使用会如何影响初学者与真实用户的实际互动。核心张力在于,初学者与AI的交互究竟是停留在被动采纳层面——即直接将AI生成的输出作为最终访谈脚本,还是进阶为迭代优化模式——即设计者始终保有对流程的认知能动性(Varghese,2025;Yang和Ma,2025)。在人机协作(HAIC)框架下,当生成式人工智能处于Role V位置时,它不仅是文本生成器,更是人类创造力的灵感来源(Song等,2024a;Zhou等,2025)。对于共情认知尚处萌芽阶段的设计初学者而言,这类协作可帮助其突破问题界定与用户情绪解读的初始障碍(Chen等,2022;Dahiya和Kumar,2019;Kim和Ryu,2014)。 成功的人机协作不应沦为导致访谈僵化、流于清单式核查的“拐杖”(Weilbacher等,2026),而应发挥共情信任赋能机制的作用(Song等,2024a)。AI作为创意激发者提供结构化起点,可帮助初学者突破表层假设,投身于共情访谈所需的复杂诠释性工作(Carmel-Gilfilen和Portillo,2016;Devecchi和Guerrini,2017)。这种协作可将初学者的角色从AI输出的被动使用者转变为主动引导人本对话的主导者,确保生成式人工智能成为可信赖的协作者,对设计者应对模糊用户需求的能力形成补充而非替代(Gasparini,2015;Song等,2024a;Zhu和Luo,2023)。

目前学界已对心理层面的共情(Chang-Arana等,2022)、设计流程中的共情环节(Devecchi和Guerrini,2027)、初学者共情能力短板(Dahiya和Kumar,2019)形成了充分认知。相关研究也已探讨了生成式人工智能的创意生成能力(Camburn等,2020)与人机交互机制(Song等,2024a),但上述主题的融合研究仍处于空白。鉴于上述多维度研究缺口,探究三者间的交互作用可为设计教育提供有益的教学启示,帮助初学者更深入地理解复杂问题背后客户面临的真实困境。要厘清上述机制,必须观察设计专业初学者如何在计算能力与人类情商之间寻求平衡。本研究依托宋等(2024a)提出的人机协作(HAIC)框架,探究不同的用户策略如何影响AI在共情访谈这一高度人本任务中作为可信协作者的效能。研究采用与人机协作框架适配的归纳式内容分析法,对数据进行编码以识别独特的协作案例。通过梳理从被动采纳脚本式提问到主动迭代优化的行为谱系,本研究揭示了初始AI提示策略如何直接决定共情访谈的整体走向。

本论文共分为五章。本章为引言,第二章为文献综述,系统梳理设计思维、共情的多维属性,以及人机协作框架的理论意涵。第三章阐述定性案例研究的方法论,介绍研究依托的入门设计课程背景、目的抽样策略,以及用于评估学生交互行为的归纳式内容分析法。第四章呈现研究发现,归纳为数据中观察到的六类典型行为案例。第五章讨论研究发现对设计教育的启示,分析不同水平的生成式人工智能融入对初学者共情培养能力的影响,并为未来教学实践与学术研究提供实操建议。

1.1 研究目的

本研究旨在探究设计专业初学者与生成式人工智能的交互模式,以及这类交互如何影响其所在设计思维课程中共情访谈的准备与实施过程。具体而言,本研究考察生成式人工智能作为协作工具对访谈问题生成、学生主导共情访谈实施的影响。研究采用定性案例研究设计回应研究问题,案例构建所用数据包括:1)学生与生成式人工智能的对话记录;2)师生共创的访谈问题集;3)学生主导访谈的录音与转录稿;4)用于评估访谈问题质量的量规评分结果(Nelsestuen和Smith,2020)。

1.2 研究问题

  1. 设计专业初学者将生成式人工智能作为协作工具使用时,其交互行为如何塑造学生主导共情访谈的准备与实施过程?

1.3 研究意义

本研究将人机协作框架应用于设计思维中的共情培养场景,丰富了生成式人工智能的相关研究体系。现有研究多聚焦生成式人工智能的效率提升价值,本研究则将其视为协作工具或“共情同伴”,有望重塑设计学习者与设计流程之间的关系(Kim等,2024;Yang和Ma,2025)。通过考察人机协作从被动采纳向迭代优化的转型过程,本研究验证了共创设计的新模型:学生在协作中始终保持主动主体地位,AI仅作为辅助创意激发者发挥作用(Song等,2024a)。对于设计教育工作者而言,本研究回应了斯托克(2026)提出的“共情门槛”问题——即无经验初学者在开展高利害人际访谈时面临的困境。研究表明,生成式人工智能可模拟真实、低风险的共情访谈练习环境,帮助学生在接触真实用户前提升判断能力(Marikar,2025;Stock,2026)。通过将研究焦点从最终设计产出转向设计流程本身,本研究可为教师提供具备理论支撑的框架,助力其在不损害学生认知能动性的前提下,为复杂关系类任务提供支架支持(Varghese,2025)。 随着生成式人工智能通过流程自动化、辅助人类决策持续重塑专业设计实践,新型“元技能”的重要性日益凸显(Marikar,2025)。本研究的另一重要价值在于明确了若干关键的人本技能(如提示词工程、判断力、创意生成、人机对话能力),这些技能将成为下一代设计师的核心素养。研究同时凸显了AI素养的必要性:AI素养并非单纯的技术技能,而是将其作为协作伙伴,保留人类在审美与文化判断中的“人在回路”要求(Song等,2024a;Yang和Ma,2025)。

成为VIP会员查看完整内容
8

博士论文 | 面向大模型推理的内存高效算法

导读

大模型推理的核心矛盾,正在从“算不动”转向“搬不动”。训练阶段常被视为算力竞赛,但在真实服务中,模型要以自回归方式逐 token 生成,每一步都需要读取模型权重、访问历史 KV cache,并在显存、片上缓存和互联之间不断搬运数据。当上下文窗口、批量请求、多轮代理任务和长链推理同时增长时,推理系统的瓶颈会越来越明显地落在内存容量与内存带宽上。 Coleman Hooper 的 Berkeley EECS 2026 博士论文《Memory-Efficient LLM Inference Algorithms》围绕这一问题展开系统研究。论文不是只提出一个孤立压缩技巧,而是先从硬件趋势、应用趋势和性能建模解释为什么 LLM 推理会撞上“内存墙”,再分别从模型权重、KV cache、共享上下文注意力和推理时注意力近似四个方向提出算法与系统方案。 这篇论文的价值在于把“内存效率”拆成了多个层次:权重能否更低比特存储?长上下文的 KV cache 能否量化?固定上下文场景是否需要每次都读取全部 token?复杂推理中,是否可以只对最重要的键做精确注意力、对更远的信息做聚类近似?这些问题正对应今天 LLM 服务系统的真实痛点。

论文信息

论文题目:Memory-Efficient LLM Inference Algorithms 作者:Coleman Hooper 机构:University of California, Berkeley,Electrical Engineering and Computer Sciences 技术报告:UCB/EECS-2026-175 时间:2026 年 5 月 15 日 论文链接:https://www2.eecs.berkeley.edu/Pubs/TechRpts/2026/EECS-2026-175.pdf 学位信息:该文为 UC Berkeley 电气工程与计算机科学博士论文,委员会成员包括 Kurt Keutzer、Yakun Sophia Shao 与 Joseph Gonzalez。

一、LLM 推理为何撞上内存墙

论文开篇提出一个直接判断:大语言模型推理正在变成内存系统问题。模型规模持续扩大,服务端 GPU 的峰值 FLOPS 增长很快,但显存带宽、互联带宽和容量增长慢得多。于是,硬件“会算”不等于系统“能快”:当每个 token 的计算强度不足以填满计算单元时,GPU 大量时间会花在等待数据从内存中读出。

这种矛盾在 LLM 推理中尤其突出。自回归解码阶段每生成一个 token,都需要重新执行一次模型前向传播。即使 batch 较小、每步计算量有限,系统仍然必须加载大量权重和历史 KV cache。对在线服务而言,这意味着延迟不只取决于矩阵乘法速度,也取决于每一步从显存搬运多少字节。 应用趋势进一步放大了问题。长上下文模型、检索增强生成、多轮对话、代码代理、工具调用和复杂推理都要求模型保留越来越多历史 token。短上下文时,模型权重通常是主要内存占用;上下文拉长后,KV cache 很快成为主导项。论文用 LLaMA-7B 的示例展示,当序列长度从 512 扩展到 128K 时,内存压力会从“权重为主”转变为“KV cache 为主”。 这就形成了论文的总体路线:如果瓶颈来自内存,那么算法设计应围绕“少存、少读、读更重要的数据”展开。

二、找到推理瓶颈

第二章从 Transformer 解码结构和 Roofline 模型出发,分析 LLM 推理中计算量、内存访问量和算术强度之间的关系。论文区分了预填充和解码两个阶段:预填充可以并行处理输入序列,通常更接近大矩阵乘法;解码则逐 token 串行进行,容易退化为大量矩阵-向量运算,因此更容易受内存带宽限制。

论文用 Transformer decoder 的计算图说明,每一层都包含 Query、Key、Value 投影、多头注意力、输出投影和前馈网络。对单步解码而言,输入 token 数很少,但需要访问完整权重和历史 KV cache;这使得很多操作无法充分利用 GPU 的峰值计算能力。

作者进一步提出多 regime 分析:当上下文较短时,权重读取是主导;当上下文增长时,KV cache 读取变得越来越重要;当 batch、模型大小和上下文长度共同变化时,系统会在不同瓶颈之间切换。这个分析为后续章节奠定了结构:第三章压缩权重,第四章压缩 KV cache,第五和第六章减少注意力阶段需要加载的 token。

三、压缩模型权重

第三章提出 SqueezeLLM,用 Dense-and-Sparse Quantization 压缩模型权重。权重量化的目标很直接:降低模型参数占用,减少推理时从显存读取的字节数,从而在容量受限或带宽受限场景中提升可部署性和吞吐。

普通均匀量化的问题在于,它默认所有权重值都同等重要。但 LLM 权重分布中往往存在更敏感的值和离群值,直接低比特压缩会显著损害模型输出。SqueezeLLM 的两个关键设计是:一是基于敏感度的非均匀量化,把量化桶更密集地分配给重要取值;二是 Dense-and-Sparse 分解,把大部分权重用低比特密集格式表示,同时保留少量敏感值或离群值为稀疏高精度项。 这种设计的含义是,系统不再把所有参数“一刀切”压缩,而是把有限的精度预算分给最影响输出质量的部分。对推理系统而言,这不仅降低显存占用,也减少每次解码需要加载的权重字节数;对模型质量而言,它避免了低比特量化常见的困惑度急剧上升。 这一章的启发是:权重量化不是单纯的数值格式替换,而是需要结合模型敏感性、离群值结构和底层 kernel 实现共同设计。只有当压缩格式能被硬件高效读取和计算时,量化才会真正转化为推理收益。

四、量化长上下文 KV Cache

当上下文长度不断增长时,权重不再是唯一大头。每一层注意力都需要缓存历史 token 的 Key 和 Value,用于后续 token 的生成。序列越长、batch 越大、层数和 head 数越多,KV cache 的内存占用就越高。第四章提出 KVQuant,研究如何量化 KV cache activation,从而支持更长上下文的推理。

KV cache 量化与权重量化并不完全相同。权重是静态的,可以离线分析和压缩;KV cache 是推理过程中动态产生的 activation,分布会随层、head、token 位置和 RoPE 等机制变化。论文因此重点分析 Key/Value activation 的分布特征,并讨论在量化前后如何处理离群值、通道差异和位置编码影响。 KVQuant 的核心目标是让长上下文推理不被 KV cache 容量直接卡死。论文图示中,LLaMA-7B 在 128K 序列长度下,KV cache 可占到主要内存;通过 3-bit 量化,缓存 activation 的内存足迹可大幅降低,同时控制困惑度退化。对服务系统而言,这类方法可以把“可容纳上下文长度”和“并发请求数”同时向上推。 这一章也揭示了长上下文系统的关键约束:长上下文不仅贵在预填充计算,更贵在后续每个 token 都要反复访问庞大的历史缓存。如果不压缩或筛选 KV cache,长上下文会持续吞噬显存带宽。

五、只加载重要上下文

第五章从另一条路出发:既然注意力并非对所有历史 token 都同等依赖,能否只加载当前 query 真正需要的 Key?Squeezed Attention 针对固定上下文处理场景提出这一想法。典型场景包括大量请求共享同一长文档、系统提示、代码库或知识库前缀;这些上下文可以在离线阶段预处理。 论文的做法是先根据语义相似性对固定上下文的 Key 进行聚类,并用 centroid 表示簇。在线推理时,模型先把当前 query 与粗粒度 centroid 比较,定位可能重要的簇,再逐层细化到更小簇,最终只对检索出的重要 Key 计算精确注意力。

这相当于把“全量扫描历史 token”改造成“层级检索 + 局部精确计算”。它的优势在于没有简单丢弃上下文,而是根据当前 query 动态决定哪些 token 值得加载。与固定稀疏模式相比,Squeezed Attention 更强调语义相关性;与完全注意力相比,它显著减少了 KV cache 读取和注意力计算。 这一章特别贴近现实部署。许多企业和科研助手类应用会让大量用户共享同一文档集合或系统上下文。如果每个请求都重复读取全部上下文,成本会非常高;如果能对共享前缀离线建索引,在线只读取最相关 token,就能把长上下文能力转化为更可承受的服务成本。

六、高效推理中的 Multipole Attention

第六章提出 Multipole Attention,进一步面向长链推理场景优化注意力。与 Squeezed Attention 只对重要 token 做精确注意力不同,Multipole Attention 的思想更像一种分层近似:距离当前 query 更近或更重要的 Key 保持精确计算;更远、贡献较分散的 Key 则用代表性 centroid 近似其注意力贡献。

这种设计试图解决一个微妙矛盾:如果只保留少数 token,可能丢失全局上下文;如果保留全部 token,内存带宽和运行时成本又过高。Multipole Attention 的折中是,对局部重要信息精确处理,对远处信息以簇级代表近似处理。这样模型仍能利用全序列中的背景信息,但不必为每个 token 都付出同等精确注意力成本。 论文还讨论了系统实现,包括稀疏 FlashDecoding、centroid 查找、centroid 替换和快速簇更新等模块。在 Qwen3-8B 上的 A6000 GPU 实验中,作者展示了在不同 batch size 下的注意力运行时加速;当稀疏比例提高时,注意力延迟相对 baseline 明显下降。

对推理型 LLM 来说,这一点很关键。长链思考会持续生成新 token,历史缓存也会越来越长。如果每一步都对完整历史做标准注意力,成本会随生成过程不断累积。Multipole Attention 把“历史越长越贵”的问题转化为“重要部分精确、其余部分近似”,更适合长输出和推理密集型任务。

七、总结与未来方向

整篇博士论文可以概括为一句话:LLM 推理的内存效率,必须从算法、数值表示和系统实现三个层次共同优化。论文先证明自回归解码的核心瓶颈来自内存带宽与缓存访问,再分别提出四类对应方案。 第一,SqueezeLLM 压缩模型权重,降低短上下文和权重主导场景中的显存与带宽压力。第二,KVQuant 压缩长上下文中的 KV cache activation,使更长上下文和更高并发成为可能。第三,Squeezed Attention 对共享固定上下文建立层级索引,只加载当前 query 需要的 token。第四,Multipole Attention 在复杂推理中用精确注意力和聚类近似结合,减少长生成过程中的注意力运行时。 这套研究路线也提示了未来 LLM 系统的几个方向。首先,内存层次结构会成为模型服务设计的中心问题,显存容量、带宽、片上缓存和多 GPU 互联都需要被算法显式感知。其次,量化不应只追求更低 bit,而要围绕敏感性、离群值、动态 activation 和 kernel 友好格式设计。再次,长上下文不能只靠扩大窗口,还需要检索、聚类、稀疏化和近似注意力共同降低每步访问成本。 更重要的是,推理工作负载正在变化。过去的 benchmark 更多关注短问答和单轮生成;现在的 agent、代码助手、研究助手和长链推理任务,会让模型长时间保持上下文并持续生成。这样的系统中,真正昂贵的不只是“模型有多大”,而是“每生成一个 token 需要搬动多少数据”。这也是这篇博士论文最值得关注的地方:它把大模型推理从单个算法问题,重新放回到内存墙、服务成本和系统可扩展性的框架中理解。

成为VIP会员查看完整内容
5

论文解读 | 从预训练到后训练:理解大模型推理能力如何形成

导读

强化学习后训练已经成为提升大语言模型复杂推理能力的关键环节。无论是数学、代码还是多步决策任务,当前主流路线往往是先做大规模预训练,再通过监督微调和带可验证奖励的 RL 进一步激发模型能力。但一个基础问题仍然没有被充分回答:预训练和 RL 到底如何相互作用? 这篇论文《Understanding Reasoning from Pretraining to Post-Training》正是围绕这一问题展开。作者不直接在自然语言大模型上做昂贵且难以控制的全流程实验,而是选择国际象棋作为可控推理试验场:预训练阶段让模型学习人类棋局轨迹,SFT 阶段使用合成推理轨迹,RL 阶段在有明确标准答案的棋题环境中用可验证奖励训练。通过这种方式,论文系统扫描模型规模、预训练 token 数和 RL 计算量,建立了一个连接预训练与 RL 后训练的 scaling law。 论文的核心结论可以概括为三点。第一,预训练损失能够预测给定 RL 计算量下的最终性能,预训练越充分,RL 后训练的起点和收益通常越好。第二,RL 的学习斜率与预训练 token 数近似线性相关,也就是说更长预训练不仅提高初始能力,还能让 RL 学得更快。第三,RL 并不只是简单“锐化”SFT 已经偏好的答案:在简单棋题上,它主要放大已有正确动作;在困难棋题上,它可以从尾部概率中挖出原本几乎缺席的正确动作,但也可能同时强化错误模式。 图1:论文标题、作者与摘要。论文研究从预训练到后训练的推理能力形成机制,使用国际象棋构建可控实验场。

论文信息

论文标题:Understanding Reasoning from Pretraining to Post-Training 作者:Jingyan Shen、Ang Li、Salman Rahman、Yifan Sun、Micah Goldblum、Matus Telgarsky、Pavel Izmailov 机构:New York University、Modal Labs、University of California, Los Angeles、University of Illinois Urbana-Champaign、Columbia University 论文链接:https://arxiv.org/pdf/2607.16097 代码与模型:https://github.com/pavelslab-nyu/pre2post-chesshttps://huggingface.co/pavelslab-nyu/pre2post-chess

一、为什么要用国际象棋研究推理后训练

直接研究自然语言 LLM 的预训练到 RL 后训练过程非常困难。原因有三点。 第一,预训练语料巨大且不可控。一个语言模型在什么数据上学到了什么能力,往往很难分清。第二,系统扫描预训练计算量、模型规模和 RL 计算量的成本极高。第三,自然语言推理通常只有最终答案是否正确,缺少每一步策略动作的细粒度可验证信号。 国际象棋提供了一个折中方案。它有明确规则、紧凑动作空间、丰富人类棋局数据,也有可验证的战术题环境。更重要的是,每一步棋都可以作为一个“推理动作”被检查,模型的策略分布、候选搜索树和错误模式都能被精确分析。 图2:论文整体框架。作者在棋类数据上模拟 LLM 式 pre-to-post 训练流程,包括人类棋局预训练、合成推理轨迹 SFT,以及可验证棋题环境中的 RL。 论文的流程非常接近现代 LLM 训练管线。预训练阶段,模型从 Lichess 人类棋局中学习下一步走法序列。SFT 阶段,作者用 proposal model 生成多条候选轨迹,并合并成搜索树,再序列化成类似 CoT 的合成推理轨迹。RL 阶段,模型在棋题环境中提出候选走法,环境检查是否匹配 gold move;走对则推进到下一状态,走错则终止并给低奖励。 这套设置不是为了做最强 chess engine,而是为了获得一个可控、可重复、可扫描的“推理实验箱”。在这里,研究者可以问清楚:更好的预训练到底会怎样影响 RL?RL 到底是在已有策略上加权,还是能真正发现新动作?

二、联合预训练-RL scaling law:预算该怎么分

论文首先研究固定总计算量下,预训练和 RL 后训练之间的预算分配问题。直觉上,预训练越多,模型初始策略越好,但留给 RL 的计算量越少;预训练越少,RL 计算量更多,但初始策略可能太弱。怎样分配才最优? 作者训练了从 5M 到 1B 参数的一组模型,并系统扫描 36 组 pretraining-RL 配置。评估指标包括 pass@1 和 pass@k,横轴则考虑总计算量、预训练计算量和 RL 计算量。 图3:不同模型规模下 pretraining-RL 组合的经验性能前沿。黑色曲线表示 Pareto frontier,颜色表示预训练计算量。 结果显示,随着总计算预算增加,最优方案中 RL 所占比例也上升。对 pass@1 来说,RL 的直接贡献更明显;而 pass@16 等多样化采样指标更依赖预训练质量。这一点很符合直觉:RL 会让模型更倾向于输出某个高奖励答案,因此更直接提升 top-1 表现;但更大 k 下能否覆盖正确答案,仍取决于预训练阶段给策略分布留下的候选空间。 论文进一步提出一个联合 scaling law,将 post-RL performance 表达为预训练损失与 RL 计算量的函数。形式上,给定模型参数 N、预训练 token 数 T 和 RL 计算量 CRL,最终表现可以拆成两部分:由预训练损失决定的基准项,以及由模型规模和预训练 token 数调节的 RL 增益项。

三、预训练性质可以预测 RL 的学习行为

论文最重要的发现之一是,预训练质量不仅影响 RL 的起点,也影响 RL 的斜率。 具体来说,在固定参考 RL 计算量下,预训练验证损失越低,post-RL reward 越高;并且随着参考 RL 计算量变大,这种关系更稳定。与此同时,RL reward curve 的局部斜率与预训练 token 数呈明显正相关。换句话说,训练得更久的 pretrained prior,不只是初始更强,还更容易被 RL 继续提升。 图4:预训练性质预测局部 RL scaling 行为。预训练损失预测固定 RL 计算量下的 post-RL 表现,预训练 token 数与 RL 学习斜率呈正相关。 这一点对大模型训练非常关键。很多讨论会把预训练和 RL 看作可替代的两个阶段:如果 RL 足够强,是否可以减少预训练?这篇论文的结论更细:预训练并不是简单给 RL 一个起点,而是在塑造 RL 的可学习性。好的预训练 prior 可以让 RL 更有效地利用后续计算。 这种结果也解释了为什么经验上“弱 base model 加强 RL”很难完全替代“强 base model 加合理 RL”。如果模型在预训练中没有形成足够好的候选动作分布和潜在结构,RL 面对的探索空间会更稀疏,学习曲线也可能更慢。

四、计算最优前沿:RL 比例会随预算增大而增加

将联合 scaling law 与 Chinchilla 风格的预训练损失预测结合后,作者可以模拟不同模型规模、不同预训练 token 数、不同 RL 计算量下的训练 recipe,而不必实际训练所有配置。 图5:基于拟合 scaling law 外推得到的计算最优前沿。随着总计算量增加,最优配置中 RL 所占比例逐步上升。 模拟结果显示,计算最优 RL fraction 会随着总预算增长而增加。例如在论文报告的范围内,最优 RL 比例从较小模型/较低预算下约 20% 上升到更大模型/更高预算下约 28%。这并不表示 RL 应该压倒预训练,而是说明随着总体预算扩大,RL 也应当被同步放大。 另一个有意思的现象是,最优预训练 token 分配并没有系统偏离 Chinchilla scaling。这意味着,即便加入 RL 后训练,预训练阶段仍大体遵循已有语言模型 scaling law 的计算最优逻辑。RL 更像是在 Chinchilla 预训练前沿之上增加一个新的预算维度,而不是完全推翻预训练规模律。 对实际训练的启示是:不能只问“预训练还是 RL 哪个更重要”。更合理的问题是,在给定总预算和模型规模下,预训练需要达到什么损失水平,RL 才能获得足够好的边际收益。

五、RL 到底改变了什么:锐化、发现与错误放大

关于 RL 后训练,已有研究存在不同观点。一种观点认为 RL 主要是 sharpening:把模型本来就会的推理模式变得更偏好、更稳定。另一种观点认为 RL 能组合或发现新能力,产生超出 base model 偏好的行为。 这篇论文利用棋题环境给出更细粒度的答案:两者都可能发生,而且取决于问题难度。 图6:RL 在不同难度棋题上以不同方式重塑 move policy。简单题上主要放大已有正确动作,困难题上会出现 tail discovery,同时也可能放大错误模式。 在简单棋题中,SFT policy 往往已经把正确走法排在靠前位置,RL 的主要作用是进一步放大这些正确动作的概率。这对应 ground-truth amplification。 在困难棋题中,情况更复杂。正确动作可能在 SFT policy 中几乎没有概率质量,甚至不在 top-k 候选中。RL 训练后,这些原本处于尾部的正确动作有时会被提升到前列,形成 tail discovery。这说明 RL 并非总是简单锐化已有偏好,它确实能够在某些情况下把“潜在正确但低概率”的动作挖出来。 但困难题也带来风险。RL 可能同时强化错误动作,形成 wrong-mode amplification。也就是说,RL 的探索和奖励信号并不总是只把模型推向正确模式;在策略分布复杂、候选动作接近时,它也可能把错误模式变得更自信。

六、推理轨迹如何演化:搜索更宽,但更深仍困难

论文还分析了结构化 reasoning trace 在 RL 训练中的变化。作者将模型生成的 CoT 式棋步轨迹解析成搜索树,从三个角度衡量:搜索形状、走法质量和搜索行为。 图7:困难棋题中的策略演化案例。预训练策略高度偏向错误动作,SFT 后概率分散,RL 后正确动作被提升,但错误动作仍可能保留较高概率。 实验显示,RL 会让搜索宽度增加,即模型会探索更多候选;走法质量也会上升,模型自己的走法和对手响应预测都更接近强引擎排序;模型也更可能把 ground-truth move 包含进候选 CoT 中。 但论文也发现,搜索深度并没有同步显著增加。模型仍然难以恢复需要超过 5 步的 ground-truth continuation。这说明当前 RL 更像是改善候选生成与选择,而不是自然学会深层、系统性的长程搜索。 这个结论对语言模型推理同样有启发。很多 RL 后训练可能提高了模型在局部候选上的排序能力,或让它更常选择已知高奖励模式,但未必自动带来真正更深的推理规划。要让模型进行更长 horizon 的系统搜索,可能还需要专门的数据构造、训练目标或环境设计。

七、从棋类迁移到数学:模式是否仍存在

为了检验棋类结果是否只是领域特例,论文还做了一个数学领域的定性迁移实验。作者使用 1B 参数 OLMo-2 模型,在数学领域文本上训练不同预训练 token 数的 checkpoint,从 10B 到 200B tokens;随后进行数学 CoT SFT 和 RL,并在 GSM8K、MATH500 等任务上评估。 图8:预训练到 RL 的预测模式在数学领域中也出现。更低预训练损失对应更高 post-RL 表现,更长预训练 token 数对应更陡的 RL 改善斜率。 结果显示,棋类中观察到的模式在数学任务上也有早期证据:预训练损失更低的 checkpoint 在固定 RL 计算量下达到更高 post-RL 表现;RL reward curve 的斜率也随预训练 token 数近似线性改善。 这并不意味着棋类 scaling law 可以直接外推到所有自然语言任务。作者也强调,数学实验与棋类实验在任务格式、数据分布和训练 recipe 上都不同。但这种相似性说明,pretraining-to-post-training interface 可能具有更一般的规律:RL 的效率不仅由 RL recipe 决定,也由预训练阶段形成的模型状态决定。

八、这篇论文的意义与局限

这篇论文的贡献在于,把“预训练与 RL 的接口”从经验问题推进到可量化问题。以往我们经常分别研究 pretraining scaling law 和 RL scaling recipe,但实际训练中二者是连续管线。一个模型在 RL 阶段能学到什么,深受预训练 prior 的影响。 论文提供了三个层面的价值。 第一,方法层面,它提出了一个可控 chess testbed,让研究者能低成本扫描预训练、SFT、RL 三阶段,并观察策略分布和推理轨迹的细粒度变化。 第二,规律层面,它建立了联合 pretraining-RL scaling law,说明预训练损失和预训练 token 数可以预测 post-RL 性能和 RL 学习斜率。 第三,机制层面,它区分了 RL 的不同作用:在简单问题上放大已有正确偏好,在困难问题上发现尾部正确动作,同时也可能强化错误模式。 当然,论文也有明显局限。国际象棋虽然是很好的可控环境,但与自然语言推理仍有差异:动作空间更小,奖励更明确,状态转移更规则。数学迁移实验规模也相对有限,更像是定性验证而不是最终结论。此外,论文的 scaling law 是局部拟合,适用于所研究的模型规模和计算范围,不应直接当作通用训练配方。 尽管如此,它提出的问题非常重要:未来做 RL 后训练,不能只优化 RL 算法本身,还要问预训练阶段为 RL 留下了怎样的候选空间、表示结构和可探索能力。真正的推理能力,可能正是在预训练 prior 与后训练经验之间共同形成的。

参考资料

Jingyan Shen, Ang Li, Salman Rahman, Yifan Sun, Micah Goldblum, Matus Telgarsky, Pavel Izmailov. Understanding Reasoning from Pretraining to Post-Training. arXiv:2607.16097, 2026. 论文 PDF:https://arxiv.org/pdf/2607.16097

成为VIP会员查看完整内容
8

本文聚焦无人系统联合架构(JAUS)。JAUS是国际自动机工程师学会(SAE)AS-4无人系统指导委员会制定的国际标准。本文将阐述该标准的基本概念及其在实现异构无人系统互操作性方面的适用性,同时介绍相关标准文档与JAUS服务集,最后剖析JAUS标准的优势与局限。

无人系统联合架构(JAUS)是一项国际标准,旨在确立一套通用的消息格式与通信协议,以支持无人飞行器与地面控制站内部及相互间的互操作。该架构最初由美国国防部(DoD)授权制定,旨在为无人地面机器人领域提供开放式架构。此后,JAUS逐步转化为国际行业标准——现归属拥有机器人技术积淀的标准制定机构国际自动机工程师学会(SAE),该学会于2004年8月成立航空航天标准无人系统指导委员会(AS-4)。界定JAUS的全部标准文档均可直接从SAE官网购买。其初衷在于定义开放式通信标准,以支持军用机器人系统的互操作。众多项目与厂商已参与JAUS实践,并成功验证了其在无人系统中的适用性,典型案例包括2004年、2005年DARPA大挑战赛及2007年DARPA城市挑战赛中的多款机器人平台。

JAUS概览

JAUS的核心目标在于规范网络环境下无人系统的通信与协同运作机制。JAUS系统由接入公共数据网络的若干子系统构成。子系统通常对应系统网络中的物理实体,例如无人飞行器或操作员控制单元(见图1)。

JAUS网络进一步划分为层级化结构。子系统下辖节点,节点代表系统中的物理计算端点,例如子系统内部的计算机或微控制器。节点可承载一个或多个组件,组件通常为运行于节点上的应用程序或线程。组件最终由一项或多项服务构成。因此,系统架构呈现如下层级关系:

服务旨在为系统提供特定实用功能。面向服务架构(SOA)赋能无人系统的分布式指挥与控制。JAUS采用的SOA方法致力于规范化系统组件间的消息格式与协议交互。该方法由JAUS服务接口定义语言(JSIDL)予以标准化;这是一种基于XML的语言,为界定JAUS服务提供基础结构与语法规范。所有经JAUS标准化的服务均须采用合规的JSIDL语法进行描述。

成为VIP会员查看完整内容
14

此前,美空军主要依托安全部队人员开展反无人机威胁训练,如今这一模式正随其新型“反无人机行动单元”的组建而发生转变。[美国空军高级飞行员阿曼达·杰特摄]

美空军已组建首批快速部署部队,旨在保护太平洋地区或其他潜在热点区域的空军基地免受空袭。

此类要点防御分队由约20名具备航空与战斗管理背景的士兵组成,既可保卫美国本土常设基地,亦专门针对敏捷作战运用中可能启用的偏远机场实施反无人机防护。

“这是一种远征能力,因此我们必须确保其轻便精简,”美空军负责作战的副参谋长办公室未来行动主任迈克尔·希伊表示。

美空军正处于完善此类反无人机行动单元的初期阶段,最终将由一个月前宣布设立的、专司基地防御的新兵种人员构成,以应对不断演变的无人机威胁。低成本四旋翼无人机及伊朗“沙赫德”等喷气动力无人机的扩散,显著加剧了空军基地及其他军事设施面临的袭击风险。

在与伊朗冲突中阵亡的16名美军人员中,至少9人死于伊朗对中东地区空军基地的无人机与导弹袭击。希伊承认美国中央司令部责任区的伊朗无人机威胁,但同时指出,去年成立的五角大楼第401号联合跨部门特遣队正为该区域部署的美军提供反无人机支援。

希伊表示,目前正着手将新型空军基地防御分队部署至从本土到太平洋的潜在热点地区。此前,核基地与机场等高安保设施内的安全部队人员构成了反无人机训练力量的主体。但希伊强调,空军正着力选拔具备指挥控制经验的官兵编入这些新部队。

“我们重点关注作战一线、具备航空思维的士兵,例如入伍飞行员与入伍空中战斗管理员,”他使用了一个描述空军人员持续认知自身在维系空中作战力量中角色的术语。

官兵需在位于俄克拉荷马州锡尔堡的联合反无人机系统大学接受为期约三周的培训,学习操作美军反无人机技术及防御敌方无人机袭击的战术。

希伊称,当前美空军正与第401号联合跨部门特遣队合作采购商用反无人机系统,但该军种针对此类威胁的正式列装项目仍是“小型无人机防御系统”(SUADS)。他介绍,SUADS本质上是一种能识别并追踪各类尺寸敌无人机的探测系统。

根据空军预算文件,国会在2026财年为SUADS拨付了5180万美元的采购资金。该系统现有两种型号:一种适用于固定空军基地,另一种可装载于飞机托盘实现快速部署。例如,要点防御分队将携带机动型SUADS变体,“作为兵力包的前出部分支援敏捷作战运用行动,”希伊说。

“因此,当各分队执行敏捷作战运用任务时,可配备集传感器、效应器及指挥控制功能于一体的快速部署型SUADS系统,”希伊表示,“我们能让这些官兵携此装备于次日或更短时间内前出部署。”

未来基地防御专业代码

美空军基地防御在技术层面属陆军职能,却长期为空军所关切。近期无人机战争的兴起,促使高层领导认识到亟需组建专业部队并配备专项训练以应对威胁。

空军部长特洛伊·E·梅因克在5月20日的国会证词中强调,空军人员“肩负保卫我空军基地及驻防部队之责,无论其身处何地。”

今年6月,空军领导层在俄亥俄州赖特-帕特森空军基地举行的半年一度“科罗娜”会议上,确立了设立专注于基地防御的专用空军专业代码(AFSC)的必要性。

希伊表示,空军“尚处于探索开发该专业代码的极早期阶段”,故细节仍较匮乏。

“我们将如何征召人员……并开展初始资格培训?此外,他们的职业发展路径如何?我们必须确保为其规划清晰的职业生涯,”希伊补充道,绝不能出现“专业代码仅限晋升至下士(E-4)即触顶”的情况。

当前,空军正与锡尔堡反无人机系统大学合作开发基地防御人员的专业技术培训体系。“针对即将进入该职业领域的官兵,其初始资格培训的课程标准正在制定中,”希伊说。

参考来源:空天部队杂志,https://www.airandspaceforces.com/early-look-air-force-new-counter-drone-units/

成为VIP会员查看完整内容
9

安全指挥与控制(C2)通信架构对于保障远程巡飞弹系统在对抗性电磁环境中遂行协同自主与打击协同至关重要。分布式侦察—打击一体化任务依托高韧性遥测数据交互、自适应路由连续性及频谱感知波形选择,以在全球导航卫星系统(GNSS)性能降级及电子战对抗条件下维持同步制导更新。本文提出一种分层安全指挥与控制架构,集成自适应跳频扩频信令、分布式网状中继路由、智能频谱感知、加密认证链路,以及与滚动时域轨迹优化框架兼容的时延受限指令同步机制。解析建模表明,在干扰强度超越常规固定信道耐受阈值的工况下,自适应载频重选可有效维持指令链路可用性;而协同中继路由则能在广域监视走廊内保障邻节点状态信息交互的持续性。仿真层面的评估验证了通信特性的可扩展性,其性能随邻节点连通度提升呈比例增长,并显著增强了分布式空中打击节点的协同可靠性。该框架确立了高韧性通信基准,有力支撑了长航时自主巡飞弹在基础设施受限战场的部署运用。

关键词:巡飞弹系统;无人机安全通信;自适应跳频;抗干扰协议;网状中继路由;集群协同;分布式打击自主;对抗性电磁环境。

图2:集成卫星链路、地面控制接口、机载导航模块及节点间协同遥测网络的分布式打击无人机协同分层安全指挥与控制架构。

成为VIP会员查看完整内容
8

a. 北约盟军转型最高司令部(HQ SACT)拟运用北约竞争性采购程序,授予参与敏捷采购(AP)流程的合同,以满足北约下一代建模与仿真(NexGen M&S)计划的各项需求。

b. 该计划旨在推动北约由当前烟囱式、应用导向的仿真工具集合,向统一、模块化、互操作性强且以数据为核心的建模与仿真(M&S)生态系统转型。此生态系统须支撑陆、海、空、天、网等多域及物理、虚拟、认知多维度的多元应用场景——涵盖计算机辅助演习(CAX)、作战筹划、作战分析与战略研究及计算机辅助兵棋推演(CAW)——并适配不同密级需求。

c. 敏捷采购流程采用迭代式逐级筛选机制,结合竞争性对话与供应商解决方案的实证演示,旨在甄选最契合下一代建模与仿真能力的解决方案。该流程设置四个连续的评估阶段,称为“冲刺”(sprint),通过实况演示、结构化评估及与供应商的竞争性对话,以“相关速度”锁定最优方案。敏捷采购流程结束后,盟军转型最高司令部拟向提案经评估确认为实施及运用下一代建模与仿真解决方案“最优性价比”的投标方授予固定总价(FFP)合同。

d. 将基于评估标准实施分阶段筛选,以确定晋级后续冲刺阶段的投标方。首轮冲刺后,最多遴选五(5)家投标方进入第二轮冲刺。后续各阶段将继续依据评估标准进行分阶段筛选。各冲刺阶段的参与将按第15节所述获付定额报酬。至第四轮冲刺时,剩余各家投标方均须提交用于争夺下一代建模与仿真合同的最优最终报价(BAFO)。

e. 推进至后续冲刺阶段及合同授予的采购决策,均以资金到位为前提,且不允许部分投标。中标供应商须按本招标书附件A《目标陈述》(SOO)之要求,提供额外相关服务。

成为VIP会员查看完整内容
6

防空作战的核心特征在于从目标探测到毁伤的全交战链各环节均存在不确定性。传统确定性分析往往忽视探测误差、分类不确定性、系统可用性及武器效能的随机属性。本研究构建适配雷达-指挥-火力单元循环的防空交战流程概率框架,各决策节点与状态转移均采用适配的概率分布表征,分布参数由假定或公开报道的作战性能指标估算得出。通过Python环境下融合多类概率分布的蒙特卡洛仿真,模型可评估不同系统配置下的目标毁伤总成功概率。研究结果揭示了交战链条对探测可靠性、识别准确率及导弹杀伤概率的敏感性,可为系统规划人员与作战分析人员提供重要决策参考。

关键词:防空;概率建模;蒙特卡洛仿真;交战链;随机分析

防空系统构建起抵御敌方空袭的分层防护机制。此类系统的作战效能取决于雷达探测、指挥中心分类、火力单元目标分配及导弹发射末端交战等一系列协同动作的连贯执行。上述各环节均受技术局限、环境条件及人为决策影响,存在固有不确定性。

传统效能评估多采用确定性成功率指标,而概率视角的分析方法更能贴合防空作战的实际运行规律。本文提出的建模方法通过将各流程节点关联对应概率分布,精准刻画交战流程的随机属性,由此可实现目标毁伤总成功概率的估算,而非依赖简化的单点估值。

本研究的核心贡献在于将防空交战流程系统性转化为透明可修改、适配场景化实验的可执行随机依赖模型。相较于确定性的杀伤链概率连乘方法,本框架显式表征探测、识别、武器分配、战备状态、交战、制导及末端毁伤之间的流程依赖关系;同时区分串行与并行依赖逻辑,便于分析人员定位概率衰减的累积节点,明确冗余设计对作战效能的提升价值。

本文基于前期研究[1]拓展深化,该研究针对防空流程采用常微分方程(ODE)与离散事件仿真(DES)构建确定性时间模型。研究亦部分借鉴题为《包含连续探测系统的作战仿真框架》的文献[2],重点参考其中关于探测概率的相关论述。

具体而言,本文主要贡献包括:

  1. 典型防空流程的形式化事件依赖表征(第2章);
  2. 支持可配置概率分布的可执行蒙特卡洛实现(第3章);
  3. 基于解析交叉校验与确定性基线比对的结果验证流程(第4章);
  4. 面向标称、饱和及电子战降级三类场景的案例研究,揭示概率衰减在交战链中的传导规律(第4、5章)。

本研究的目标包含三方面:

  • 依据标准工作流程(雷达→指挥所→火力单元),设计并阐释防空交战流程的概率模型。
  • 基于Python平台实现该模型的蒙特卡洛仿真,针对不同场景获取贴近实战的成功概率估值。
  • 通过与解析闭式可靠性计算结果及确定性连乘基线的比对,完成模型实现的有效性验证。 除上述核心目标外,本研究亦旨在论证概率建模技术对不确定性、变异性起决定性作用的复杂防务场景的适用性,例如空军基地防空[3]、防御体系结构优化[4]等领域。
成为VIP会员查看完整内容
12

ICML 2026 教程 | 2026 年,数值优化理论对机器学习实践还重要吗?

导读

在 ICML 2026 tutorial《Is numerical optimization theory irrelevant to machine learning practice in 2026?》中,UBC 计算机科学教授 Mark Schmidt 提出了一个有点尖锐的问题:数值优化理论,到了 2026 年,对机器学习实践是不是已经不重要了? 这个问题背后有很现实的背景。一方面,优化理论近十多年持续产生漂亮成果:性能估计问题、参数无关 SGD、BFGS 的非渐近分析、各种加速方法和方差缩减理论不断推进。另一方面,真正改变深度学习训练实践的,却常常是理论动机并不完整、甚至最初“证明缺失”的方法:Adam、AdamW、cosine annealing、ScheduleFree、Muon、Shampoo 等。实践中,很多新优化器声称能超过 AdamW,但在大规模训练或更严格基准下收益并不稳定。 Schmidt 的回答不是“理论无用”,也不是“理论万能”。这份 211 页教程真正想说的是:优化理论仍然有用,但它必须解释机器学习训练中的真实问题。尤其要解释步长如何设、批量如何选、Adam 为什么常常有效、二阶信息为什么没想象中好用、Muon 和 Shampoo 到底在做什么,以及深度网络训练为什么像一组互相牵制的 trade-off。 图1:ICML 2026 tutorial 标题页。教程由 Mark Schmidt 主讲,主题是数值优化理论与机器学习实践之间的关系。

一、两种优化文化:证明与实践为何越走越远

教程开头借 Dimitri Bertsekas 的“两种数值优化文化”切入。第一种是理论文化:重视收敛分析、一般性陈述和简洁优雅的证明。第二种是实践文化:更关心算法在特定问题上的表现,认为如果方法直觉上有效、实验上表现好,为什么还一定要收敛证明? 图2:Bertsekas 所说的两种数值优化文化:一种强调收敛分析,一种强调实际问题中的经验表现。 Schmidt 自己的经历横跨两边。他早年做过面向实践的优化代码和 SGD 训练语言模型工作,也做过带理论分析的加速梯度与 SGD 收敛研究。2015 年左右,他曾以为理论和实践正在汇合:SGD 类方法既有漂亮理论,又能在机器学习任务中达到领先效果。 但深度学习之后,裂缝反而扩大。Adam 在神经网络训练中表现极好,AdamW、cosine annealing、ScheduleFree、Muon 等也都强烈来自实践探索或社区试错,而许多理论上精致的方法对主流训练流程影响有限。Schmidt 用一句话概括这种尴尬:优化理论取得了很多惊人成果,但真正改变世界的方法,经常不是那些理论最完整的方法。

二、教程目标:用简单理论解释常见训练问题

Schmidt 并不是要否定理论。他的目标是展示,优化理论能帮助我们理解一批常见实践问题: 如何设置 step size?如何选择 batch size?为什么 Adam 有效?为什么二阶信息没有在深度学习中大规模胜出?为什么一些看似奇怪的神经网络训练技巧有效? 图3:教程目标。Schmidt 希望用简单概念解释实践现象,同时提醒理论研究者不要把精力放在离实践太远的问题上。 他面向两类听众。对实践者,他希望给出一些简单概念,帮助大家少走“研究生式调参下降”的弯路。对理论研究者,他希望指出哪些方向可能过于脱离实践,以及理论如何变得更有用。 这份教程最核心的解释轴,是“gradient-dominated phase”和“noise-dominated phase”,即梯度主导阶段与噪声主导阶段。许多优化技巧看似杂乱,放到这条轴上就容易理解:有些方法帮助前期快速沿着真实梯度前进,有些方法帮助后期降低随机梯度噪声,而同一种技巧在一个阶段有益,在另一个阶段可能有害。

三、从步长开始:为什么“安全步长”不是实践答案

传统梯度下降理论常从 Lipschitz 常数 L 出发:如果步长小于 2/L,函数值会下降;1/L 常被视为某种安全而合理的选择。这套理论清楚、漂亮,也构成了许多收敛分析的基础。 但在真实机器学习中,这个模型太粗。全局 L 可能非常保守,局部曲率可能小得多;梯度方向未必指向最尖锐的方向;多步优化的整体收益也不能只由单步下降界决定。在神经网络里,全局 L 甚至可能是无穷大,此时如果照搬理论,就会得到“步长应为 0”的荒谬结论。 因此,Schmidt 将步长问题分成多个层级。第一层是单步下降界,这是大部分理论最熟悉的地方;第二层考虑局部曲率和多步进展;第三层考虑每个梯度的方向和大小;第四层更接近实践:为了未来进展,有时甚至允许函数值暂时上升。 这也解释了 warmup、gradient clipping、cosine annealing、piecewise decay 等实践技巧为何存在。它们不是简单违反理论,而是在更复杂的训练动力学中,用工程方式处理局部尖锐度、噪声、未来进展和稳定性之间的关系。

四、SGD 的两阶段:梯度主导与噪声主导

随机梯度下降比全量梯度下降便宜,但引入了噪声。Schmidt 用一个非常重要的条件解释 SGD 何时像 GD:当梯度信号大于噪声影响时,SGD 会稳定前进;当噪声项压过梯度时,行为就会变得抖动和随机。 图4:SGD 中的梯度主导与噪声主导阶段。前者由真实梯度信号主导,后者由随机梯度噪声主导。 这给很多实践经验提供了统一解释。训练早期,梯度通常较大,优化处于梯度主导阶段,较大的步长、动量、Adam、预条件等方法往往能带来加速。训练后期,梯度变小但噪声未必同步消失,进入噪声主导阶段,此时需要降低步长、做平均、增大 batch、随机重排或使用方差缩减。 关键在于,帮助一个阶段的方法可能伤害另一个阶段。递减步长在噪声主导阶段有助于稳定,但如果太早使用,会拖慢梯度主导阶段;贪心步长或较大动量在梯度主导阶段能加速,但在噪声主导阶段可能放大噪声。 图5:加速 SGD 的方法地图。梯度主导阶段和噪声主导阶段需要不同技巧,有限数据集还引入随机重排和方差缩减等额外手段。 这条轴也解释了为什么调参依旧重要:我们通常不知道训练何时从梯度主导切到噪声主导,也不知道局部曲率、梯度方差和特征学习状态如何变化。超参数调节,本质上是在间接适配这些隐藏动力学。

五、ScheduleFree 与平均:处理噪声的新旧思想

在噪声主导阶段,一个经典思想是平均。Polyak-Ruppert averaging 说明,在接近解的噪声区间,平均迭代点是处理噪声方差的一种非常有效方式。直觉上,单个迭代点会被随机梯度拉来拉去,而平均点更稳定。 图6:ScheduleFree 被放在迭代平均思想的脉络中。它可视为近期将平均与训练调度结合的一类实践变体。 ScheduleFree 正是在这个传统思想上的近期实践变体。它在 Polyak-Ruppert averaging 与 primal averaging 之间做插值,并在 AlgoPerf 2024 的黑盒神经网络训练竞赛中表现突出。Schmidt 也提醒,它并不是完全无调参,仍然需要搜索基础学习率和动量参数;而面向 LLM 的 ScheduleFree+ 还做了许多额外修改。 这部分的启发是:新方法常常不是凭空出现。很多看起来很现代的技巧,背后都有几十年前优化理论中的原型。理论的价值不一定是直接给出最终工程 recipe,而是帮助我们识别一个技巧到底在处理哪个瓶颈。

六、批量大小:不要只降学习率,也可以增大 batch

SGD 的噪声来自随机采样。mini-batch 通过平均多个样本的梯度来降低方差,因此可以延长梯度主导阶段。Schmidt 用一句话概括:不要只想着减小 step size,也可以增大 batch size。 图7:mini-batch SGD 的步长与批量大小关系。更大的 batch 会降低噪声影响,使较大的学习率能维持更久。 这解释了大模型训练中 batch size 越来越大的趋势。batch 增大后,噪声项被摊薄,优化可以更久地保持在“像全量梯度下降”的状态。但这并不意味着 batch 越大永远越好。如果硬件并行几乎免费,增大 batch 通常不会伤害;但从总计算量看,存在一个“临界 batch size”,取决于噪声大小和目标误差。 理论上,如果固定步长,mini-batch SGD 能快速收敛到一个与噪声方差和 batch size 相关的误差区域。要达到更小误差,需要更大 batch 或更长训练。实践中的 critical batch size 现象,本质上正是这个权衡的经验版本。

七、Adam 为什么有效:不是万能,但解释越来越清楚

Adam 是深度学习中最常用的优化器之一,但它的性质并不好理解。原始 Adam 论文中的分析存在问题,也能构造出 Adam 表现很差的简单函数;但在大量任务上,Adam 又很难被击败。 图8:Adam 优化器的困惑。它结合 AdaGrad、Momentum 和常数步长等思想,但理论性质仍未被完全理解。 Schmidt 对 Adam 的解释依然回到两阶段框架。Adam 似乎主要帮助梯度主导阶段,而不是噪声主导阶段。实验上,当 batch size 变大、噪声变小时,Adam 与 SGD 的差距反而扩大;这说明 Adam 的优势并不是简单“抗噪”。 一个重要解释来自语言任务的重尾标签结构。在自然语言中,“the”等词极高频,而大量词极低频。SGD 对罕见标签进展很慢,而 Adam 的自适应缩放能让稀疏但重要的方向得到更大有效步长。这也解释了为什么 Adam 在语言模型中常比 SGD 强得多,而在视觉任务中优势没那么稳定。 教程还用 SignGD 作为 Adam 的简化代理。SignGD 忽略梯度幅值,只保留方向符号,可视为在无穷范数下的梯度下降。这个视角有助于理解 Adam 为什么会放大小梯度方向、压缩大梯度方向,也解释了它对坐标系旋转不 invariant 的问题。

八、Muon:矩阵范数视角下的新优化器

Muon 是近年来自 benchmark speedrunning 社区的热门方法。Schmidt 将它放在“矩阵范数下的最速下降”框架中解释。 许多神经网络参数天然是矩阵。对矩阵参数,可以不只用 Frobenius 范数看梯度下降,还可以用 nuclear norm 或 operator norm。若在 operator norm 下推导最速下降,更新方向会与极分解相关;Muon 的无动量版本正对应这种方向。工程上的关键,是用 Newton-Schulz 迭代快速近似极分解。 图9:Muon 可被理解为矩阵范数下的最速下降,更新方向与极分解相关。 这个视角很有意思:Muon 不是完全“玄学”的新技巧,而能与 SignGD、Frank-Wolfe、谱下降等传统思想发生联系。对向量参数而言,Muon 类似 SignGD;对矩阵参数而言,它是在奇异向量空间中做类似符号化的更新。 Schmidt 的态度依然谨慎。Muon 可能需要正则化,许多关于其有效性的细节仍未完全解释。但它说明,实践中出现的新优化器,往往可以倒逼理论去寻找新的解释框架。

九、二阶信息与 Shampoo:为什么曲率没有想象中好用

很多人自然会问:既然一阶方法有这么多问题,为什么不直接用二阶信息?Newton 方法在接近解时收敛极快,预条件也理论上能带来任意加速。 Schmidt 的回答是:二阶信息有用,但常常用错时机。Newton 最有帮助的时候,是 Hessian 稳定且梯度很小,也就是接近最优解或驻点附近。但在随机优化中,梯度很小的区域往往也是噪声主导区域,此时曲率未必是主要瓶颈。Polyak-Ruppert averaging 的结果甚至说明,在某些噪声主导情形下,二阶信息不能超过平均 SGD 的渐近效率。 图10:经验 Fisher 与结构化预条件。Shampoo、K-FAC、Soap 等方法可视为在可计算结构下近似二阶或预条件信息。 Shampoo、K-FAC、Soap、KL-Shampoo 等方法,试图用结构化预条件近似二阶信息。它们常采用 block-diagonal 或 Kronecker-factored 近似,使曲率信息在大规模模型中可计算。Schmidt 的判断是,Muon 与 Shampoo/Soap 的争论仍在继续,但两类方法似乎都更适合梯度主导阶段。 这给实践者的提示是:不要把“二阶”理解成自动更高级。曲率信息只有在它对应当前瓶颈时才有价值。如果训练瓶颈来自噪声、特征演化、归一化动态或表示崩塌,单纯加入二阶近似未必解决问题。

十、深度网络为什么难:训练是一组不稳定的平衡

教程后段将视角从优化器转向深度网络训练本身。Schmidt 认为,深度网络难不只是因为非凸,而是因为训练中存在一组互相牵制的 trade-off。 图11:深度网络训练中的多重 trade-off,包括信号流、输入敏感性、参数敏感性、地形拓扑和特征可塑性。 例如,sigmoid 能限制输入敏感性,但会恶化信号流;ReLU 改善信号流,却可能带来参数敏感性问题;GELU、SwiGLU、LayerNorm、RMSNorm、skip connection、ReZero、FixUp、weight decay、SAM、muP 等技巧,都可以看作在调节不同 trade-off。 这也是为什么现代训练 pipeline 很刚性:它不是随便拼起来的,而是在不稳定平衡中逐渐形成的。一个技巧修复某个问题,可能会破坏另一个维度。例如降低 sharpness 的方法可能导致表示塌缩,避免塌缩的结构又可能改变特征学习动力学。 因此,传统优化理论如果仍主要关注固定特征、固定目标、单步下降界,就很难真正解释深度学习。真正需要的是关于“特征如何随训练演化”的理论模型。

十一、最终结论:理论的终极测试是影响实践

教程最后给出总结:理论和实践都不可或缺。理论能给出新情境下的保证,但可能假设不现实、界过于悲观;实验能反映真实表现,但可能被具体 benchmark 误导。机器学习优化研究需要同时理解两种风格。 图12:Schmidt 的最终观点:需要更好的模型解释训练中特征如何演化;理论的终极测试,是它能否影响实践。 Schmidt 用一句话收束:“不应该有 YOLO training runs。机器学习应当稳定、平滑、可预测。”这句话很适合作为整场 tutorial 的落点。今天的大模型训练仍然高度依赖经验、试错和昂贵运行,一次错误训练可能耗费巨大。优化理论如果想重新变得重要,就必须帮助实践者减少这种不可预测性。 因此,这场 tutorial 的答案是:数值优化理论没有无关,但传统理论还不够相关。它需要从“证明某个算法在理想假设下收敛”,走向“解释真实训练流程为什么有效、何时失败、怎样更稳定”。对于 2026 年的机器学习,这可能正是优化理论重新靠近实践的方式。

资料来源

Mark Schmidt. Is numerical optimization theory irrelevant to machine learning practice in 2026? ICML 2026 Tutorial Slides. PDF:https://www.cs.ubc.ca/~schmidtm/Documents/2026_ICML_Tutorial.pdf

成为VIP会员查看完整内容
7

导读

2026 年国际数学家大会(ICM 2026)在费城举行。大会期间,陶哲轩作了题为《Mathematics in the age of AI》的公众演讲。这个题目看似是谈 AI 做数学,但通读 slides 会发现,他真正关心的不是“AI 到底有多强”这个单点问题,而是一个更深的问题:当 AI 可能越来越多地参与研究级数学任务时,数学共同体应当如何重新审视自己的目标、价值、制度和实践? 这场演讲发生在一个很特别的时间点。ICM 2026 公布了新一届菲尔茨奖得主:Yu Deng、John Pardon、Jacob Tsimerman、Hong Wang。其中,王虹(Hong Wang)和邓熠/邓宇(Yu Deng)获奖尤其受到中文数学圈关注。王虹因调和分析与几何测度论中的突破性工作获奖,并成为菲尔茨奖历史上第三位女性获奖者;Yu Deng 则因偏微分方程、概率与数学物理相关工作获奖。对中国数学界而言,这是极具标志性的时刻。 陶哲轩本人也是菲尔茨奖得主。他 1975 年出生于澳大利亚阿德莱德,现任 UCLA 数学教授,研究领域横跨调和分析、偏微分方程、组合数学、解析数论等。2006 年,他因在多个数学领域的深刻贡献获得菲尔茨奖;此后又获得麦克阿瑟奖、克拉福德奖、数学突破奖等重要荣誉。这样一位“问题求解型”数学家,在 ICM 2026 上讨论 AI,不是从技术乐观或悲观出发,而是从数学共同体如何保持健康出发。 图1:陶哲轩 ICM 2026 公众演讲标题页。演讲题为“人工智能时代的数学”,时间为 2026 年 7 月 24 日。

一、这不是一道数学题,而是一道共同体问题

陶哲轩一开始提出的问题是:面对现代 AI 技术及其真实或被宣称的数学能力,数学共同体应当如何回应? 这个问题不是一道通常意义上的数学题。它不要求证明一个定理,也不只是比较模型在若干基准上的分数。它更接近“元数学”问题,同时也是政治、伦理和文化问题:数学研究究竟追求什么?数学家为什么需要证明?一个结果何时才算真正进入数学知识体系?如果 AI 能更快地产生大量候选证明,人的角色应当怎样变化? 图2:演讲中的核心问题:数学共同体应当如何回应现代 AI 技术及其数学任务能力。 陶哲轩把当前局面类比为数学基础危机。20 世纪初,罗素悖论、哥德尔不完备定理等事件迫使数学家重新检查集合、数、无穷和公理基础。那一阶段很动荡,但最终推动数学形成了更明确、更严谨、更标准化的基础框架。 他认为,今天 AI 带来的也许不是“数学基础”的危机,而是“数学价值与实践基础”的危机。过去很多默认规则不必说清楚:为什么证明重要,为什么同行评审重要,为什么教材化和传承重要,为什么数学共同体需要慢慢消化结果。AI 的到来让这些隐含价值无法继续隐身。

二、AI 能力假设:先暂时承认一个强版本

演讲中,陶哲轩没有把大量篇幅花在证明 AI 是否已经能做研究数学。他将相关问题形式化为“AI 能力猜想”:在不久的将来,某些 AI 工具会在一定成本、人类监督和成功率下,完成某些领域的研究级数学任务,并达到某种正确性和质量。 这个表述中有很多“某些”“一定”“某种”。陶哲轩强调,这些变量如何填充,会产生弱版本和强版本的能力猜想。弱版本可能只是 AI 能辅助解决小问题;强版本则意味着 AI 能在相当范围内高质量完成研究级任务。 他的演讲采取一种条件分析:假设一个较强版本为真,数学共同体应该怎么办? 这个姿态很关键。它绕开了“AI 到底行不行”的争论泥潭,转而追问:如果 AI 确实在研究数学中变得有用,甚至很强,我们的制度准备好了吗? 图3:陶哲轩在演讲中提到 First Proof 作为近期数据点。该项目用受控方式评估前沿 AI 模型与工具链解决研究级数学问题的能力。 陶哲轩提到 First Proof challenge。slides 中给出的信息显示,第二批测试在 2026 年 5 月 28 日进行,包含 10 个新的研究级数学问题,4 个 AI harness 参与,结果由专家从正确性和表达两方面评审;其中 7 个问题至少被一个团队以接近发表水准解决,单题计算成本大致在 10 到 1000 美元之间。 他并不把这作为最终结论,而是作为一个信号:讨论 AI 与数学时,不能只停留在轶事、社交媒体展示和模型公司宣传上。需要受控评估,也需要区分“能力是否存在”和“这种能力是否值得我们追求”。

三、真正的问题:数学共同体到底想优化什么

如果 AI 能力假设成立,陶哲轩认为下一个问题会变得无法回避:数学共同体的精确目标、目标函数和价值是什么? 数学研究当然有很多目标:解决开放问题,发展新理论和新技术,理解世界,建立数学共同体,训练下一代数学家,贡献共享知识网络,创造具有持久审美价值的作品。过去,这些目标通常大体正相关。一个重要问题被解决,往往也会推动理论发展、促进共同体交流、进入教材和课程,最终成为共享知识。 图4:演讲中列出的数学研究目标。解决问题只是其中之一,理论建设、共同体建设、训练新人和知识传承同样重要。 但 AI 可能改变这种相关性。如果某个指标变得特别容易被优化,例如“解决开放问题的数量”,它就可能挤压其他更慢、更人的目标。陶哲轩用 Goodhart 定律提醒:当一个度量成为目标,它就不再是好的度量。 图5:陶哲轩借 Goodhart 定律提醒数学共同体:如果过度优化单一指标,原本相互支撑的数学目标可能发生分离。 生成式 AI 的无根基特征,以及 AI 公司和研究竞争中的激励结构,使得数学更容易受到这种风险影响。假如人们只追求“更多结果”“更快证明”“更早宣布”,那么数学可能从共同理解的事业,变成证明文本的生产流水线。

四、以“解题”为例:证明不是终点

陶哲轩选择“解题”作为案例。因为如果 AI 能做研究数学,最直接受到冲击的就是开放问题求解。 第一版目标很直观:尽可能多地解决未解问题。但这很快遇到问题。即使在 AI 出现之前,数学界也已经知道,重大猜想周围会出现大量错误证明。只追求解题数量,会制造海量噪声。 于是目标需要升级:不仅要生成证明,还要验证其正确性。形式化证明、自动定理证明和 Lean、Rocq、HOL 等证明助手,可能加速这一环节。但陶哲轩追问:如果 AI 生成了一个很长、形式上正确、但没有人真正理解的证明,它对数学意味着什么? 因此还需要第三个环节:阐释。一个证明不仅要正确,还要能被数学共同体清楚理解。当前 AI 在表达上有双面性:语法、格式和表面流畅度很强,但常常把平凡部分写得过长,对真正困难或新颖的步骤却轻描淡写,也不擅长给出与文献和思想脉络的高层连接。 图6:演讲中强调证明阐释的重要性。问题不只是“证明是否正确”,还包括它能否被共同体理解、学习和吸收。 陶哲轩进一步指出,证明中的“摩擦”并不总是坏事。人类作者写证明时,困难部分往往会自然留下痕迹,提醒读者放慢速度,认真消化。过度 AI 润色的证明可能太平滑,把关键难点包装得像常规步骤,反而降低学习效果。 这引出了一个更完整的证明生命周期:生成、验证、阐释、发表、消化、经典化。

五、从证明稀缺到证明过剩

在最终版本的目标中,陶哲轩将“解决开放问题”扩展为:生成证明,验证其正确性,清楚地表达,并使其被数学共同体消化、接受,最终进入该领域的确定性理论体系。 图7:演讲给出的“最终目标”流程:从开放问题到未验证解、已验证解、清晰写作、共同体接受,再到最终理论化和经典化。 这张图是整场演讲的核心。它说明数学研究不是从“开放问题”直接跳到“答案”。中间有许多人类共同体活动:审稿、讲座、讨论、重写、教材化、引用、吸收,以及一代代学生在学习中重新组织知识。 如果 AI 只加速前端的证明生成,而后端的人类消化能力没有同步扩展,就会产生阻抗不匹配。陶哲轩称之为“proof indigestion”,可以理解为“证明消化不良”。 图8:陶哲轩警告,如果没有制度和文化调整,数学可能从“证明稀缺”进入“证明过剩”,并在验证、写作、评审和经典化环节出现堵塞。 这也是文章最值得注意的判断:AI 可能让数学从证明稀缺时代进入证明过剩时代。过去最稀缺的是能解决问题的人;未来最稀缺的可能是能判断、解释、吸收和传承结果的人。数学共同体的瓶颈将从“谁能证明”转向“谁能理解、认证并把它变成共同知识”。

六、陶哲轩的建议:披露、消化与人的责任

陶哲轩在后半部分给出了一组建议。第一,要避免最糟糕情形:作者暗中使用 AI 辅助研究,却因为担心同行批评而隐瞒使用。合理做法是规范化负责任的 AI 使用披露。数学界需要明确什么可以用、怎样声明、哪些环节必须由人承担责任。 第二,要降低对“第一个解决问题”的过度强调,提升对证明消化的重视。未来的荣誉与资源分配,不应只奖励证明生成,还应奖励高质量阐释、可靠评审、文献整理、教材化和工具化工作。这些工作过去常常被视为“服务性劳动”,但在证明过剩时代,它们会变得更加核心。 第三,要坚持人的正确性责任。即使使用自动化工具,发表数学研究时,论证和结果的正确性、引用完整性、归属准确性仍应由人类作者负责。 图9:陶哲轩提出的经验准则:如果作者不能令人信服地作出清晰、专家级、正确且归属得当的报告,那么结果就不应发表。 这一准则非常直接。它把数学发表的门槛从“文本看起来正确”拉回到“作者是否真正理解并能向共同体负责”。这对 AI 时代尤其重要,因为未来可能出现大量看似规范、形式正确、但没有人能解释其思想来源和关键机制的论文。

七、对数学教育和研究生态的启示

演讲最后,陶哲轩强调,解题只是数学工作的一个方面。AI 还会影响教学、指导、招聘、基金申请、公众传播等许多环节。每个环节都需要类似分析:我们到底想优化什么?哪些部分应该限制 AI 使用?哪些部分应该主动设计新工作流? 图10:陶哲轩的结束思考:数学共同体需要围绕 AI 能力、共同体目标和价值展开开放而诚实的讨论。 在教育和训练中,人类方面会变得更重要。学生不能只学会让模型产出证明,而要学会判断证明、理解证明、提出问题、建立理论直觉。AI 可以成为工具,但不应替代数学训练中的核心经验。 在研究工作流中,数学界需要主动定义 AI 的最佳实践,而不是被动接受商业工具带来的默认规则。例如,如何记录 AI 参与过程,如何验证 AI 生成证明,如何建设可审计的数学知识库,如何让形式化证明、论文、讲义和数据库相互连接。

八、为什么这场演讲值得 AI 圈也认真读

这场 talk 的意义不只属于数学。它实际上给所有知识生产领域提出了一个通用问题:当 AI 大幅降低“生成成果”的成本后,真正稀缺的是什么? 在数学中,答案可能是验证、理解、阐释、共同体接受和经典化。在科学研究中,可能是实验可重复性、因果解释、理论整合和长期可信记录。在 AI 领域本身,也同样如此:模型可以快速生成论文、代码、实验图和 benchmark 结果,但共同体仍需要判断哪些贡献真正可靠、可复现、可积累。 陶哲轩的观点不是反 AI,也不是简单拥抱 AI。他更像是在提醒:如果我们不把目标说清楚,工具会替我们定义目标;如果我们只优化可量化的短期产出,就会损伤那些更慢但更珍贵的学术价值。 在 ICM 2026 这样一个数学共同体的最高舞台上,这场演讲与王虹、邓熠/邓宇等新一代数学家的获奖共同构成了一个很有象征意味的画面:数学正在进入新的时代,一方面年轻数学家继续以深刻原创工作拓展人类知识边界,另一方面 AI 正迫使整个共同体重新思考“什么才算数学进步”。

资料来源

陶哲轩 ICM 2026 演讲 slides:https://teorth.github.io/tao-web/slides/age-of-ai-icm-2026.pdf 陶哲轩个人主页与 CV:https://www.math.ucla.edu/~tao/https://teorth.github.io/tao-web/cv-long.html IMU 菲尔茨奖名单:https://www.mathunion.org/imu-awards/fields-medal ICM 2026 菲尔茨奖相关新闻与背景:Nature、IHES、新华社/人民网等公开报道。

成为VIP会员查看完整内容
10
登陆后查看更多精品内容
VIP会员
最新内容
面向国防作战的最佳自主与蜂群无人机技术
专知会员服务
7+阅读 · 7月28日
《异构人类团队的协作决策过程混合建模研究》
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
5+阅读 · 7月27日
美空军新型反无人机部队初探
专知会员服务
9+阅读 · 7月27日
《防空交战流程的概率建模研究》
专知会员服务
12+阅读 · 7月27日
ICML 2026 教程 | 数值优化理论还重要吗?
专知会员服务
7+阅读 · 7月26日
ICM 2026 | 陶哲轩:人工智能时代的数学
专知会员服务
10+阅读 · 7月26日
本周荟萃主题
区块链
区块链(Blockchain)是由节点参与的分布式数据库系统,它的特点是不可更改,不可伪造,也可以将其理解为账簿系统(ledger)。它是比特币的一个重要概念,完整比特币区块链的副本,记录了其代币(token)的每一笔交易。通过这些信息,我们可以找到每一个地址,在历史上任何一点所拥有的价值。
深度学习
机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。
机器学习
“机器学习是近20多年兴起的一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。机器学习理论主要是设计和分析一些让 可以自动“ 学习”的算法。机器学习算法是一类从数据中自动分析获得规律,并利用规律对未知数据进行预测的算法。因为学习算法中涉及了大量的统计学理论,机器学习与统计推断学联系尤为密切,也被称为统计学习理论。算法设计方面,机器学习理论关注可以实现的,行之有效的学习算法。很多 推论问题属于 无程序可循难度,所以部分的机器学习研究是开发容易处理的近似算法。”

——中文维基百科
强化学习
强化学习(RL)是机器学习的一个领域,与软件代理应如何在环境中采取行动以最大化累积奖励的概念有关。除了监督学习和非监督学习外,强化学习是三种基本的机器学习范式之一。 强化学习与监督学习的不同之处在于,不需要呈现带标签的输入/输出对,也不需要显式纠正次优动作。相反,重点是在探索(未知领域)和利用(当前知识)之间找到平衡。 该环境通常以马尔可夫决策过程(MDP)的形式陈述,因为针对这种情况的许多强化学习算法都使用动态编程技术。经典动态规划方法和强化学习算法之间的主要区别在于,后者不假设MDP的确切数学模型,并且针对无法采用精确方法的大型MDP。
推荐系统
推荐系统,是指根据用户的习惯、偏好或兴趣,从不断到来的大规模信息中识别满足用户兴趣的信息的过程。推荐推荐任务中的信息往往称为物品(Item)。根据具体应用背景的不同,这些物品可以是新闻、电影、音乐、广告、商品等各种对象。推荐系统利用电子商务网站向客户提供商品信息和建议,帮助用户决定应该购买什么产品,模拟销售人员帮助客户完成购买过程。个性化推荐是根据用户的兴趣特点和购买行为,向用户推荐用户感兴趣的信息和商品。随着电子商务规模的不断扩大,商品个数和种类快速增长,顾客需要花费大量的时间才能找到自己想买的商品。这种浏览大量无关的信息和产品过程无疑会使淹没在信息过载问题中的消费者不断流失。为了解决这些问题,个性化推荐系统应运而生。个性化推荐系统是建立在海量数据挖掘基础上的一种高级商务智能平台,以帮助电子商务网站为其顾客购物提供完全个性化的决策支持和信息服务。
卷积神经网络
在深度学习中,卷积神经网络(CNN或ConvNet)是一类深度神经网络,最常用于分析视觉图像。基于它们的共享权重架构和平移不变性特征,它们也被称为位移不变或空间不变的人工神经网络(SIANN)。它们在图像和视频识别,推荐系统,图像分类,医学图像分析,自然语言处理,和财务时间序列中都有应用。
计算机网络
计算机网络( Computer Networks )指将地理位置不同的多台计算机及其外部设备,通过通信线路连接起来,在网络操作系统及网络通信协议的管理和协调下,实现资源共享和信息传递的计算机系统。
命名实体识别
命名实体识别(NER)(也称为实体标识,实体组块和实体提取)是信息抽取的子任务,旨在将非结构化文本中提到的命名实体定位和分类为预定义类别,例如人员姓名、地名、机构名、专有名词等。
机器翻译
机器翻译,又称为自动翻译,是利用计算机将一种自然语言(源语言)转换为另一种自然语言(目标语言)的过程。它是计算语言学的一个分支,是人工智能的终极目标之一,具有重要的科学研究价值。
计算机视觉
计算机视觉是一门研究如何使机器“看”的科学,更进一步的说,就是是指用摄影机和电脑代替人眼对目标进行识别、跟踪和测量等机器视觉,并进一步做图形处理,使电脑处理成为更适合人眼观察或传送给仪器检测的图像。作为一个科学学科,计算机视觉研究相关的理论和技术,试图建立能够从图像或者多维数据中获取‘信息’的人工智能系统。
微信扫码咨询专知VIP会员