Pretrained diffusion models are effective priors for Bayesian inverse problems, but posterior sampling with these priors is often costly because data-consistency guidance is applied throughout the full reverse trajectory. Existing methods have shown that vector-Jacobian products through the denoiser can sometimes be avoided, yet they typically still rely on dense guidance through the full trajectory or expensive inner solves. We introduce Sparse Scheduled Diffusion Guidance for Inverse Problems (Spin), a solver that avoids starting posterior sampling from pure noise. Spin first samples from a posterior time-marginal at an intermediate timestep $t_*$, and then uses that state as a warm start for a guided reverse diffusion process. At guidance time, instead of enforcing the measurement constraint at every denoising step, Spin applies lightweight corrections only at scheduled timesteps where the denoiser can still clean up artifacts. The resulting procedure decouples prior refinement from data consistency: the prior supplies denoising, while lightweight pixel-space optimization enforces the measurement constraint without backpropagation through the denoiser or decoder. Across linear and nonlinear inverse problems on FFHQ and ImageNet, Spin achieves competitive reconstruction quality with a substantially better runtime--memory profile, running 2x faster on pixel-space models and up to 50x faster on latent diffusion models, with lower memory costs.


翻译:预训练扩散模型是贝叶斯逆问题的有效先验,但使用这些先验进行后验采样通常成本高昂,因为数据一致性引导贯穿整个反向轨迹。现有方法已表明,有时可避免通过降噪器计算向量-雅可比乘积,但它们通常仍依赖贯穿整个轨迹的密集引导或代价高昂的内部求解。我们提出面向逆问题的稀疏调度扩散引导(Spin),这是一种无需从纯噪声启动后验采样的求解器。Spin首先在中间时间步$t_*$处对后验时间边际分布进行采样,然后将该状态作为引导反向扩散过程的暖启动。在引导时刻,Spin不在每个降噪步骤强制执行测量约束,而是仅在调度的时间步执行轻量级修正,此时降噪器仍能消除伪影。由此产生的过程将先验精炼与数据一致性解耦:先验提供降噪功能,而轻量级像素空间优化在不通过降噪器或解码器反向传播的情况下强制执行测量约束。在FFHQ和ImageNet上的线性和非线性逆问题中,Spin以显著更优的运行时间-内存配置文件实现了具有竞争力的重建质量,在像素空间模型上运行速度提升2倍,在潜在扩散模型上提升高达50倍,且内存成本更低。

0
下载
关闭预览

相关内容

【CVPR2026教程】扩散模型的解析理解
专知会员服务
14+阅读 · 6月10日
面向图像处理逆问题的扩散模型研究综述
专知会员服务
16+阅读 · 2025年4月23日
《扩散模型图像编辑》综述
专知会员服务
28+阅读 · 2024年2月28日
专知会员服务
10+阅读 · 2021年10月17日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 5月27日
VIP会员
最新内容
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
2+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
3+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
3+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
5+阅读 · 6月21日
相关VIP内容
【CVPR2026教程】扩散模型的解析理解
专知会员服务
14+阅读 · 6月10日
面向图像处理逆问题的扩散模型研究综述
专知会员服务
16+阅读 · 2025年4月23日
《扩散模型图像编辑》综述
专知会员服务
28+阅读 · 2024年2月28日
专知会员服务
10+阅读 · 2021年10月17日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员