Weakly supervised multimodal video anomaly detection has gained significant attention, yet the potential of the text modality remains under-explored. Text provides explicit semantic information that can enhance anomaly characterization and reduce false alarms. However, extracting effective text features is challenging due to the inability of general-purpose language models to capture anomaly-specific nuances and the scarcity of relevant descriptions. Furthermore, multimodal fusion often suffers from redundancy and imbalance. To address these issues, we propose a novel text-guided framework. First, we introduce an in-context learning-based multi-stage text augmentation mechanism to generate high-quality anomaly text samples for fine-tuning the text feature extractor. Second, we design a multi-scale bottleneck Transformer fusion module that uses compressed bottleneck tokens to progressively integrate information across modalities, mitigating redundancy and imbalance. Experiments on UCF-Crime and XD-Violence demonstrate state-of-the-art performance.


翻译:弱监督多模态视频异常检测已获得广泛关注,但文本模态的潜力仍未得到充分探索。文本提供了显式的语义信息,可增强异常特征刻画并减少误报。然而,由于通用语言模型难以捕捉异常特有的细微差异,且相关描述数据稀缺,提取有效的文本特征仍面临挑战。此外,多模态融合常受冗余与不平衡问题困扰。为解决上述问题,我们提出一种新颖的文本引导框架。首先,我们引入基于上下文学习的多阶段文本增强机制,以生成高质量的异常文本样本,用于微调文本特征提取器。其次,我们设计了一个多尺度瓶颈Transformer融合模块,该模块利用压缩的瓶颈令牌逐步整合跨模态信息,从而缓解冗余与不平衡问题。在UCF-Crime与XD-Violence数据集上的实验验证了所提方法达到了最先进的性能。

0
下载
关闭预览

相关内容

基于深度学习的视频异常检测:综述
专知会员服务
26+阅读 · 2024年9月10日
【WWW2024】知识数据对齐的弱监督异常检测
专知会员服务
23+阅读 · 2024年2月7日
监控视频的异常检测与建模综述
专知会员服务
50+阅读 · 2021年12月27日
「图像视频深度异常检测」简明综述论文
专知会员服务
38+阅读 · 2021年3月8日
最新《深度学习视频异常检测》2020综述论文,21页pdf
专知会员服务
86+阅读 · 2020年9月30日
【Google】多模态Transformer视频检索,Multi-modal Transformer
专知会员服务
103+阅读 · 2020年7月22日
最新《自然场景中文本检测与识别》综述论文,26页pdf
专知会员服务
70+阅读 · 2020年6月10日
异常检测(Anomaly Detection)综述
极市平台
20+阅读 · 2020年10月24日
文本+视觉,多篇 Visual/Video BERT 论文介绍
AI科技评论
22+阅读 · 2019年8月30日
【CVPR2019】弱监督图像分类建模
深度学习大讲堂
38+阅读 · 2019年7月25日
异常检测论文大列表:方法、应用、综述
专知
126+阅读 · 2019年7月15日
论文浅尝 | 基于深度强化学习的远程监督数据集的降噪
开放知识图谱
29+阅读 · 2019年1月17日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 1月20日
VIP会员
相关VIP内容
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员