去噪扩散模型在图像、视频和音频的生成式建模中取得了最先进的成果。然而,对训练目标的分析揭示了一个悖论:该目标存在一个唯一的闭式解,且该解仅依赖于训练数据本身——而这一解只能重现训练样本,表现出完美的记忆化。 那么,深度扩散模型究竟是如何实现泛化的?本教程将探讨新兴的解析扩散模型系列,它们为这一问题提供了启示。我们将从基础出发,逐步介绍当前对泛化机制的理解——得分平滑、神经架构的归纳偏置、训练动态以及数据几何结构——所有内容都通过最优去噪的视角来呈现。 本教程结合讲座与实践性的 Jupyter notebook 环节,使参与者能够亲自运行实验、检验理论并建立直观认知。 https://analytic-diffusion.github.io/