We present LightMover, a framework for controllable light manipulation in single images that leverages video diffusion priors to produce physically plausible illumination changes without re-rendering the scene. We formulate light editing as a sequence-to-sequence prediction problem in visual token space: given an image and light-control tokens, the model adjusts light position, color, and intensity together with resulting reflections, shadows, and falloff from a single view. This unified treatment of spatial (movement) and appearance (color, intensity) controls improves both manipulation and illumination understanding. We further introduce an adaptive token-pruning mechanism that preserves spatially informative tokens while compactly encoding non-spatial attributes, reducing control sequence length by 41% while maintaining editing fidelity. To train our framework, we construct a scalable rendering pipeline that generates large numbers of image pairs across varied light positions, colors, and intensities while keeping the scene content consistent with the original image. LightMover enables precise, independent control over light position, color, and intensity, and achieves high PSNR and strong semantic consistency (DINO, CLIP) across different tasks.


翻译:我们提出LightMover框架,用于单张图像中可控的光照编辑,该框架利用视频扩散先验在不重新渲染场景的前提下生成物理合理的照度变化。我们将光照编辑建模为视觉令牌空间中的序列到序列预测问题:给定图像与光照控制令牌,模型从单一视角同步调整光源位置、颜色和强度,及其产生的反射、阴影和衰减效果。这种对空间(移动)和外观(颜色和强度)控制的统一处理提升了操作精度与光照理解能力。我们进一步引入自适应令牌剪枝机制,保留空间信息丰富的令牌同时紧凑编码非空间属性,在维持编辑保真度的前提下将控制序列长度缩减41%。为训练该框架,我们构建了一个可扩展的渲染流水线,在保持场景内容与原图一致的前提下,生成大量覆盖不同光源位置、颜色及强度的图像对。LightMover能够对光源位置、颜色和强度实现精确的独立控制,并在多类任务中取得高PSNR值及强语义一致性(DINO、CLIP)。

0
下载
关闭预览

相关内容

面向低光照图像增强的扩散模型
专知会员服务
17+阅读 · 2025年10月11日
最新LightGBM进展介绍报告,39页ppt
专知会员服务
31+阅读 · 2021年1月15日
LightGCN推荐模型代码解读
机器学习与推荐算法
23+阅读 · 2021年12月23日
智能照明与智慧灯杆在智慧城市中的应用(PPT)
智能交通技术
10+阅读 · 2019年8月18日
爱奇艺基于AI的移动端自动化测试框架的设计
前端之巅
18+阅读 · 2019年2月27日
learn to see in the dark-低照度图像增强算法
计算机视觉life
16+阅读 · 2019年1月14日
Maplab:研究视觉惯性建图和定位的开源框架
泡泡机器人SLAM
16+阅读 · 2018年4月4日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
VIP会员
最新内容
边缘计算的军事应用
专知会员服务
3+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
7+阅读 · 8月8日
《多域冲突比较支持模型》60页
专知会员服务
13+阅读 · 8月7日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员