We introduce HalluCiteChecker, a toolkit for detecting and verifying hallucinated citations in scientific papers. While AI assistant technologies have transformed the academic writing process, including citation recommendation, they have also led to the emergence of hallucinated citations that do not correspond to any existing work. Such citations not only undermine the credibility of scientific papers but also impose an additional burden on reviewers and authors, who must manually verify their validity during the review process. In this study, we formalize hallucinated citation detection as an NLP task and provide a corresponding toolkit as a practical foundation for addressing this problem. Our package is lightweight and can perform verification in seconds on a standard laptop. It can also be executed entirely offline and runs efficiently using only CPUs. We hope that HalluCiteChecker will help reduce reviewer workload and support organizers by enabling systematic pre-review and publication checks. Our code is released under the Apache 2.0 license on GitHub and is distributed as an installable package via PyPI. A demonstration video is available on YouTube.


翻译:我们提出HalluCiteChecker,一个用于检测和验证科学论文中幻觉引用的工具包。尽管AI辅助技术已经转变了学术写作流程(包括引用推荐),但它们也导致了与任何现有工作不对应的幻觉引用的出现。此类引用不仅削弱了科学论文的可信度,还给审稿人和作者带来了额外负担——他们必须在审稿过程中手动验证引用的真实性。在本研究中,我们将幻觉引用的检测形式化为一个自然语言处理任务,并提供一个相应的工具包作为解决该问题的实用基础。我们的软件包轻量高效,可在标准笔记本电脑上数秒内完成验证;同时支持完全离线运行,且仅使用CPU即可高效执行。我们希望HalluCiteChecker能通过实现系统化的预审和出版前检查,减轻审稿人工作负担并支持会议组织者。我们的代码已基于Apache 2.0许可证在GitHub上公开发布,同时可通过PyPI作为可安装包分发。配套演示视频已在YouTube上线。

0
下载
关闭预览

相关内容

《大型视觉语言模型中的幻觉现象》综述
专知会员服务
57+阅读 · 2024年2月2日
大模型的幻觉现象介绍
专知会员服务
66+阅读 · 2023年10月27日
CALDERA 一款对手自动模拟工具
黑白之道
20+阅读 · 2019年9月17日
最新|深度离散哈希算法,可用于图像检索!
全球人工智能
14+阅读 · 2017年12月15日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 4月13日
VIP会员
最新内容
综述 | 世界动作模型:少做梦,多行动
专知会员服务
0+阅读 · 6分钟前
美以伊冲突:无人机与人工智能的运用
专知会员服务
1+阅读 · 18分钟前
《特种部队在透明战场中的生存力》最新报告
专知会员服务
1+阅读 · 38分钟前
《人工智能生成的零日漏洞:对未来作战的影响》
综述 | 3D场景图:开放挑战与未来方向
专知会员服务
8+阅读 · 6月22日
21世纪的无人机战争
专知会员服务
4+阅读 · 6月22日
《量子技术的军事任务技术适配与利用》
专知会员服务
5+阅读 · 6月22日
美国从乌克兰无人机战争中学习经验
专知会员服务
7+阅读 · 6月21日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员