Infrared-visible image fusion aims to integrate infrared and visible information into a single fused image. Existing 2D fusion methods focus on fusing images from fixed camera viewpoints, neglecting a comprehensive understanding of complex scenarios, which results in the loss of critical information about the scene. To address this limitation, we propose a novel Infrared-Visible Gaussian Fusion (IVGF) framework, which reconstructs scene geometry from multimodal 2D inputs and enables direct rendering of fused images. Specifically, we propose a cross-modal adjustment (CMA) module that modulates the opacity of Gaussians to solve the problem of cross-modal conflicts. Moreover, to preserve the distinctive features from both modalities, we introduce a fusion loss that guides the optimization of CMA, thus ensuring that the fused image retains the critical characteristics of each modality. Comprehensive qualitative and quantitative experiments demonstrate the effectiveness of the proposed method.


翻译:红外-可见光图像融合旨在将红外与可见光信息整合至单一融合图像中。现有二维融合方法主要聚焦于固定相机视点的图像融合,缺乏对复杂场景的全面理解,导致场景关键信息丢失。为克服此局限,本文提出一种新颖的红外-可见光高斯融合框架,该框架可从多模态二维输入重建场景几何,并实现融合图像的直接渲染。具体而言,我们提出跨模态调整模块,通过调制高斯体的不透明度以解决跨模态冲突问题。此外,为保留双模态的独特特征,我们引入融合损失函数以指导跨模态调整模块的优化,从而确保融合图像保留各模态的关键特性。综合定性与定量实验验证了所提方法的有效性。

0
下载
关闭预览

相关内容

面向无人机视角的多源信息融合目标检测
专知会员服务
21+阅读 · 2025年2月2日
动态三维场景重建研究综述
专知会员服务
35+阅读 · 2024年8月23日
一文详解50多种多模态图像融合方法
专知会员服务
48+阅读 · 2024年4月6日
深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
基于深度学习的图像融合方法综述
专知会员服务
57+阅读 · 2023年1月25日
专知会员服务
67+阅读 · 2021年5月21日
基于深度学习的数据融合方法研究综述
专知
37+阅读 · 2020年12月10日
专家报告|深度学习+图像多模态融合
中国图象图形学报
12+阅读 · 2019年10月23日
计算机视觉方向简介 | 三维重建技术概述
计算机视觉life
26+阅读 · 2019年6月13日
全景分割任务介绍及其最新进展【附PPT与视频资料】
人工智能前沿讲习班
11+阅读 · 2018年12月5日
干货|全景视频拼接的关键技术分析
全球人工智能
13+阅读 · 2017年7月15日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
相关VIP内容
面向无人机视角的多源信息融合目标检测
专知会员服务
21+阅读 · 2025年2月2日
动态三维场景重建研究综述
专知会员服务
35+阅读 · 2024年8月23日
一文详解50多种多模态图像融合方法
专知会员服务
48+阅读 · 2024年4月6日
深度学习背景下的图像三维重建技术进展综述
专知会员服务
38+阅读 · 2023年9月4日
基于深度学习的图像融合方法综述
专知会员服务
57+阅读 · 2023年1月25日
专知会员服务
67+阅读 · 2021年5月21日
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员