Lowering the numerical precision of model parameters and computations is widely adopted to improve the efficiency of retrieval systems. However, when computing relevance scores between the query and documents in low-precision, we observe spurious ties due to the reduced granularity. This introduces high variability in the results based on tie resolution, making the evaluation less reliable. To address this, we propose a more robust retrieval evaluation protocol designed to reduce score variation. It consists of: (1) High-Precision Scoring (HPS), which upcasts the final scoring step to higher precision to resolve tied candidates with minimal computational cost; and (2) Tie-aware Retrieval Metrics (TRM), which report expected scores, range, and bias to quantify order uncertainty of tied candidates. Our experiments test multiple models with three scoring functions on two retrieval datasets to demonstrate that HPS dramatically reduces tie-induced instability, and TRM accurately recovers expected metric values. This combination enables a more consistent and reliable evaluation system for lower-precision retrievals.


翻译:降低模型参数和计算数值精度被广泛采用以提高检索系统的效率。然而,在低精度下计算查询与文档之间的相关性分数时,我们观察到因粒度降低导致的虚假并列现象。这引入了基于并列消解结果的高变异性,使评估的可靠性下降。为了解决这一问题,我们提出了一种更为稳健的检索评估协议,旨在降低分数变异性。该协议包括:(1)高精度评分(High-Precision Scoring, HPS),它将最终评分步骤提升至更高精度,以最小计算成本消解候选并列项;以及(2)并列感知检索指标(Tie-aware Retrieval Metrics, TRM),它报告期望分数、范围和偏置,以量化并列候选的顺序不确定性。我们的实验在两个检索数据集上使用三种评分函数测试了多个模型,结果表明HPS显著降低了并列引发的不稳定性,且TRM能够准确恢复期望指标值。这一组合为低精度检索提供了更一致、更可靠的评估体系。

0
下载
关闭预览

相关内容

【KDD2023】科技论文弱监督多标签分类
专知会员服务
21+阅读 · 2023年7月6日
【NeurIPS2021】基于关联与识别的少样本目标检测
专知会员服务
24+阅读 · 2021年11月29日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
医疗健康领域的短文本解析探索----文本纠错
深度学习自然语言处理
10+阅读 · 2020年8月5日
「PPT」深度学习中的不确定性估计
专知
27+阅读 · 2019年7月20日
你的算法可靠吗? 神经网络不确定性度量
专知
40+阅读 · 2019年4月27日
异常检测的阈值,你怎么选?给你整理好了...
机器学习算法与Python学习
10+阅读 · 2018年9月19日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 4月3日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
6+阅读 · 6月21日
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
3+阅读 · 6月21日
学习数据的几何:形状空间分析数学综述
专知会员服务
10+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
12+阅读 · 6月17日
相关VIP内容
【KDD2023】科技论文弱监督多标签分类
专知会员服务
21+阅读 · 2023年7月6日
【NeurIPS2021】基于关联与识别的少样本目标检测
专知会员服务
24+阅读 · 2021年11月29日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
相关基金
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员