Real-Time Auction (RTA) Interception aims to filter out invalid or irrelevant traffic to enhance the integrity and reliability of downstream data. However, two key challenges remain: (i) the need for accurate estimation of traffic quality together with sufficiently high confidence in the model's predictions, typically addressed through uncertainty modeling, and (ii) the efficiency bottlenecks that such uncertainty modeling introduces in real-time applications due to repeated inference. To address these challenges, we first provide a theoretical analysis of the intrinsic mechanism underlying uncertainty estimation. Building on this analysis, we propose a joint modeling framework that integrates multi-objective learning with uncertainty modeling, named UMDA, which yields both traffic quality predictions and reliable confidence estimates. We further apply knowledge distillation to UMDA, enabling the model to produce both aleatoric and epistemic uncertainties in a single forward pass, thereby substantially reducing the computational overhead of uncertainty modeling, while largely preserving predictive accuracy and retaining the benefits of multiple-forward-pass uncertainty estimation. Experiments on the JD and Criteo datasets demonstrate that UMDA provides more effective samples for downstream tasks through uncertainty sharing, and the distilled model retains the original uncertainty-sharing capability while delivering a tenfold increase in inference speed.


翻译:实时竞价拦截旨在过滤无效或无关流量,以增强下游数据的完整性和可靠性。然而,当前仍面临两个关键挑战:(i) 需要准确估计流量质量,同时对模型预测保持足够高的置信度——这通常通过不确定性建模实现;(ii) 这种不确定性建模因需要重复推理而在实时应用中引入效率瓶颈。针对这些挑战,我们首先对不确定性估计的内在机理进行了理论分析。在此基础上,提出了一种联合建模框架UMDA,将多目标学习与不确定性建模相结合,同时输出流量质量预测和可靠的置信度估计。我们进一步对UMDA应用知识蒸馏,使模型能够通过单次前向传播同时产生偶然不确定性和认知不确定性,从而大幅降低不确定性建模的计算开销,同时基本保持预测精度并保留多次前向传播不确定性估计的优势。在JD和Criteo数据集上的实验表明,UMDA通过不确定性共享为下游任务提供更有效的样本,而蒸馏模型在保持原始不确定性共享能力的同时,推理速度提升了一个数量级。

0
下载
关闭预览

相关内容

《人机协作集成模型中的不确定性捕获》博士论文
专知会员服务
25+阅读 · 2025年10月2日
【CMU博士论文】校准不确定性量化的方法及其效用解析
专知会员服务
22+阅读 · 2025年9月1日
Meta-Transformer:多模态学习的统一框架
专知会员服务
59+阅读 · 2023年7月21日
面向多智能体博弈对抗的对手建模框架
专知
18+阅读 · 2022年9月28日
「PPT」深度学习中的不确定性估计
专知
27+阅读 · 2019年7月20日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
用模型不确定性理解模型
论智
11+阅读 · 2018年9月5日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
战力倍增器:自主武器系统与乌克兰及加沙冲突
人工智能赋能战场情报:提速决策进程
专知会员服务
1+阅读 · 7月17日
《拥抱新兴技术:面向未来军官的教育革新》
专知会员服务
4+阅读 · 7月17日
《无人地面战车(UGV)的崛起》报告
专知会员服务
7+阅读 · 7月16日
美陆军任务式指挥人工智能解决方案
专知会员服务
13+阅读 · 7月16日
相关基金
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员