The main goal of the project is to design a new model that predicts regions of interest in 360$^{\circ}$ videos. The region of interest (ROI) plays an important role in 360$^{\circ}$ video streaming. For example, ROIs are used to predict view-ports, intelligently cut the videos for live streaming, etc so that less bandwidth is used. Detecting view-ports in advance helps reduce the movement of the head while streaming and watching a video via the head-mounted device. Whereas, intelligent cuts of the videos help improve the efficiency of streaming the video to users and enhance the quality of their viewing experience. This report illustrates the secondary task to identify ROIs, in which, we design, train, and test a hybrid saliency model. In this work, we refer to saliency regions to represent the regions of interest. The method includes the processes as follows: preprocessing the video to obtain frames, developing a hybrid saliency model for predicting the region of interest, and finally post-processing the output predictions of the hybrid saliency model to obtain the output region of interest for each frame. Then, we compare the performance of the proposed method with the subjective annotations of the 360RAT dataset.


翻译:本项目的主要目标是设计一种新模型,用于预测360°视频中的兴趣区域。兴趣区域在360°视频流传输中扮演着重要角色。例如,ROI可用于预测视口、为直播流智能裁剪视频等,从而减少带宽占用。提前检测视口有助于减少用户通过头戴设备流式传输和观看视频时的头部移动。而视频的智能裁剪则有助于提高向用户传输视频的效率,并提升其观看体验的质量。本报告阐述了识别ROI的次要任务,其中我们设计、训练并测试了一种混合显著性模型。在本工作中,我们通过显著性区域来表征兴趣区域。该方法包括以下流程:预处理视频以获取帧序列,开发用于预测兴趣区域的混合显著性模型,最后对混合显著性模型的输出预测进行后处理,以获得每帧的输出兴趣区域。随后,我们将所提方法的性能与360RAT数据集的主观标注结果进行了比较。

0
下载
关闭预览

相关内容

迈向深度基础模型:基于视觉的深度估计最新趋势
专知会员服务
23+阅读 · 2025年7月16日
基于深度学习的视觉目标检测技术综述
专知会员服务
61+阅读 · 2022年6月22日
基于深度学习的视频目标检测综述
专知会员服务
84+阅读 · 2021年5月19日
基于深度学习的视频目标检测综述
极市平台
16+阅读 · 2019年7月19日
基于深度学习的目标检测算法剖析与实现【附PPT与视频资料】
人工智能前沿讲习班
12+阅读 · 2018年12月25日
基于深度学习的目标检测算法综述
AI研习社
15+阅读 · 2018年4月25日
基于区域的目标检测——细粒度
计算机视觉战队
14+阅读 · 2018年2月1日
深度学习目标检测模型全面综述:Faster R-CNN、R-FCN和SSD
深度学习世界
10+阅读 · 2017年9月18日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
美国与以色列如何在攻击伊朗中使用人工智能
专知会员服务
2+阅读 · 今天16:20
《自动化战略情报管控》
专知会员服务
2+阅读 · 今天14:31
得失评估:审视对伊朗战争的轨迹(简报)
专知会员服务
2+阅读 · 今天14:19
【CMU博士论文】迈向可解释机器学习的理论基础
专知会员服务
2+阅读 · 今天12:23
基于数据优化的人机协同与机器人僚机
专知会员服务
6+阅读 · 今天2:08
相关VIP内容
迈向深度基础模型:基于视觉的深度估计最新趋势
专知会员服务
23+阅读 · 2025年7月16日
基于深度学习的视觉目标检测技术综述
专知会员服务
61+阅读 · 2022年6月22日
基于深度学习的视频目标检测综述
专知会员服务
84+阅读 · 2021年5月19日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
13+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员