Query expansion with large language models is promising but often relies on hand-crafted prompts, manually chosen exemplars, or a single LLM, making it non-scalable and sensitive to domain shift. We present an automated, domain-adaptive QE framework that builds in-domain exemplar pools by harvesting pseudo-relevant passages using a BM25-MonoT5 pipeline. A training-free cluster-based strategy selects diverse demonstrations, yielding strong and stable in-context QE without supervision. To further exploit model complementarity, we introduce a two-LLM ensemble in which two heterogeneous LLMs independently generate expansions and a refinement LLM consolidates them into one coherent expansion. Across TREC DL20, DBPedia, and SciFact, the refined ensemble delivers consistent and statistically significant gains over BM25, Rocchio, zero-shot, and fixed few-shot baselines. The framework offers a reproducible testbed for exemplar selection and multi-LLM generation, and a practical, label-free solution for real-world QE.


翻译:基于大语言模型的查询扩展具有良好前景,但通常依赖于手工制作的提示、人工选取的示例或单一LLM,导致其难以扩展且对领域迁移敏感。我们提出了一种自动化、领域自适应的查询扩展框架,该框架通过使用BM25-MonoT5流水线收集伪相关段落来构建领域内示例池。一种无需训练的基于聚类的策略可选取多样化的演示示例,从而在无监督条件下实现强大且稳定的上下文查询扩展。为进一步利用模型互补性,我们引入了一种双LLM集成方法:两个异构LLM独立生成扩展,再由一个精炼LLM将其整合为一个连贯的扩展。在TREC DL20、DBPedia和SciFact数据集上的实验表明,经过精炼的集成方法相较于BM25、Rocchio、零样本及固定少样本基线模型,均取得了稳定且统计显著的性能提升。该框架为示例选择与多LLM生成提供了可复现的测试平台,并为实际应用中的查询扩展提供了一种无需标注的实用解决方案。

0
下载
关闭预览

相关内容

利用多个大型语言模型:关于LLM集成的调研
专知会员服务
35+阅读 · 2025年2月27日
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【资源】领域自适应相关论文、代码分享
专知
32+阅读 · 2019年10月12日
领域自适应学习论文大列表
专知
71+阅读 · 2019年3月2日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《面向国防领域的大语言模型基准测试与适配》
专知会员服务
11+阅读 · 10月28日
世界模型入门:从序贯决策到通用智能体
专知会员服务
14+阅读 · 10月24日
军事域更好使用人工智能的实用指南
专知会员服务
12+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
专知会员服务
17+阅读 · 10月20日
相关VIP内容
利用多个大型语言模型:关于LLM集成的调研
专知会员服务
35+阅读 · 2025年2月27日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员