While significant advancements have been made in video question answering (VideoQA), the potential benefits of enhancing model generalization through tailored difficulty scheduling have been largely overlooked in existing research. This paper seeks to bridge that gap by incorporating VideoQA into a curriculum learning (CL) framework that progressively trains models from simpler to more complex data. Recognizing that conventional self-paced CL methods rely on training loss for difficulty measurement, which might not accurately reflect the intricacies of video-question pairs, we introduce the concept of uncertainty-aware CL. Here, uncertainty serves as the guiding principle for dynamically adjusting the difficulty. Furthermore, we address the challenge posed by uncertainty by presenting a probabilistic modeling approach for VideoQA. Specifically, we conceptualize VideoQA as a stochastic computation graph, where the hidden representations are treated as stochastic variables. This yields two distinct types of uncertainty: one related to the inherent uncertainty in the data and another pertaining to the model's confidence. In practice, we seamlessly integrate the VideoQA model into our framework and conduct comprehensive experiments. The findings affirm that our approach not only achieves enhanced performance but also effectively quantifies uncertainty in the context of VideoQA.


翻译:尽管视频问答(VideoQA)领域已取得显著进展,但通过定制化的难度调度来增强模型泛化能力的潜在优势,在现有研究中很大程度上被忽视了。本文旨在通过将VideoQA纳入课程学习(CL)框架来弥合这一差距,该框架使模型能够从简单到复杂的数据进行渐进式训练。我们认识到,传统的自步调CL方法依赖训练损失来衡量难度,这可能无法准确反映视频-问题对的复杂性,因此我们引入了不确定性感知CL的概念。在此,不确定性作为动态调整难度的指导原则。此外,我们通过提出一种VideoQA的概率建模方法来应对不确定性带来的挑战。具体而言,我们将VideoQA概念化为一个随机计算图,其中隐藏表示被视为随机变量。这产生了两种不同类型的不确定性:一种与数据固有的不确定性相关,另一种则涉及模型的置信度。在实践中,我们将VideoQA模型无缝集成到我们的框架中,并进行了全面的实验。研究结果证实,我们的方法不仅实现了性能提升,还能有效量化VideoQA背景下的不确定性。

0
下载
关闭预览

相关内容

【ICML2025】通过在线世界模型规划的持续强化学习
专知会员服务
20+阅读 · 2025年7月18日
【ICML2023】面向决策Transformer的未来条件无监督预训练
专知会员服务
44+阅读 · 2023年5月30日
UTC: 用于视觉对话的任务间对比学习的统一Transformer
专知会员服务
14+阅读 · 2022年5月4日
从HPO到NAS: 自动深度学习
专知会员服务
39+阅读 · 2020年6月15日
国家自然科学基金
38+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
VIP会员
相关基金
国家自然科学基金
38+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
16+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员