Flow matching models have shown great potential in image generation tasks among probabilistic generative models. However, most flow matching models in the literature do not explicitly utilize the underlying clustering structure in the target data when learning the flow from a simple source distribution like the standard Gaussian. This leads to inefficient learning, especially for many high-dimensional real-world datasets, which often reside in a low-dimensional manifold. To this end, we present $\texttt{Latent-CFM}$, which provides efficient training strategies by conditioning on the features extracted from data using pretrained deep latent variable models. Through experiments on synthetic data from multi-modal distributions and widely used image benchmark datasets, we show that $\texttt{Latent-CFM}$ exhibits improved generation quality with significantly less training and computation than state-of-the-art flow matching models by adopting pretrained lightweight latent variable models. Beyond natural images, we consider generative modeling of spatial fields stemming from physical processes. Using a 2d Darcy flow dataset, we demonstrate that our approach generates more physically accurate samples than competing approaches. In addition, through latent space analysis, we demonstrate that our approach can be used for conditional image generation conditioned on latent features, which adds interpretability to the generation process.


翻译:流匹配模型在概率生成模型的图像生成任务中展现出巨大潜力。然而,现有文献中的多数流匹配模型在学习从简单源分布(如标准高斯分布)到目标数据的流时,并未明确利用目标数据中的潜在聚类结构。这导致学习效率低下,尤其对于许多通常位于低维流形上的高维真实世界数据集而言。为此,我们提出$\texttt{Latent-CFM}$,通过利用预训练深度潜在变量模型从数据中提取的特征进行条件化处理,提供高效训练策略。通过对多模态分布合成数据及常用图像基准数据集的实验,我们表明:$\texttt{Latent-CFM}$通过采用预训练轻量级潜在变量模型,在显著减少训练与计算量的情况下,相比现有最先进的流匹配模型展现出更优的生成质量。除自然图像外,我们还考虑了源于物理过程的空间场生成建模。基于二维达西流数据集的实验表明,我们的方法相比竞争方法能够生成物理上更准确的样本。此外,通过潜在空间分析,我们证明该方法可基于潜在特征进行条件图像生成,从而为生成过程增加可解释性。

0
下载
关闭预览

相关内容

【NTU博士论文】基础模型的高效适配
专知会员服务
15+阅读 · 3月24日
用于多模态对齐的基础模型表征潜力:一项综述
专知会员服务
18+阅读 · 2025年10月8日
大型模型中的参数高效微调:方法论综述
专知会员服务
69+阅读 · 2024年11月3日
基于深度学习的图像匹配:方法、应用与挑战
专知会员服务
25+阅读 · 2024年7月19日
【Google】高效Transformer综述,Efficient Transformers: A Survey
专知会员服务
66+阅读 · 2022年3月17日
高级地图匹配算法:研究现状和趋势
专知会员服务
18+阅读 · 2021年10月28日
最新《图嵌入组合优化》综述论文,40页pdf
深度学习应用在图像匹配的效果如何?
中国图象图形学报
10+阅读 · 2019年6月11日
谷歌EfficientNet缩放模型,PyTorch实现登热榜
机器学习算法与Python学习
11+阅读 · 2019年6月4日
推荐算法:Match与Rank模型的交织配合
从0到1
15+阅读 · 2017年12月18日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月14日
Arxiv
0+阅读 · 5月17日
VIP会员
最新内容
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
2+阅读 · 今天4:08
美空军如何将人工智能从战场部署至后方机关
专知会员服务
9+阅读 · 7月31日
《史诗怒火行动:多域前瞻评估》49页报告
专知会员服务
5+阅读 · 7月31日
《英国防部:未来空战系统数字化战略》33页
专知会员服务
4+阅读 · 7月31日
《面向自主飞行网络的智能体人工智能架构》
专知会员服务
7+阅读 · 7月31日
“史诗怒火”行动:现代多域作战的重要节点
专知会员服务
8+阅读 · 7月30日
《下一代无线网络中的多无人机通信资源管理》
相关VIP内容
【NTU博士论文】基础模型的高效适配
专知会员服务
15+阅读 · 3月24日
用于多模态对齐的基础模型表征潜力:一项综述
专知会员服务
18+阅读 · 2025年10月8日
大型模型中的参数高效微调:方法论综述
专知会员服务
69+阅读 · 2024年11月3日
基于深度学习的图像匹配:方法、应用与挑战
专知会员服务
25+阅读 · 2024年7月19日
【Google】高效Transformer综述,Efficient Transformers: A Survey
专知会员服务
66+阅读 · 2022年3月17日
高级地图匹配算法:研究现状和趋势
专知会员服务
18+阅读 · 2021年10月28日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员