Readers of applied-domain LLM capability evaluations want to know what AI systems can currently do. That literature answers a related, but consequentially different, question: what older, cheaper, less-elicited models could do months or years earlier (a 2026 paper evaluating GPT-3.5 or GPT-4 zero-shot, say, against a frontier of reasoning-capable, tool-using systems like GPT-5.5 Pro and Claude Opus 4.7), often reported with sparse configuration details and abstracted upward into claims about "AI" that propagate through citations, media, and policy. We measure the 'publication elicitation gap' (the gap between these answers) in a pre-registered audit of 112,303 LLM-keyword-matched candidate records (2022-01 to 2026-04; 18,574 admissible, 4,766 full-paper texts retrievable), comparing tested models to the contemporaneous frontier on the Epoch AI Capabilities Index (ECI), reproduced under Arena Elo and Artificial Analysis. The median paper evaluates a model +10.85 ECI (~1.4x the distance between Claude Sonnet 3.7 and Claude Opus 4.5) behind the contemporaneous frontier at evaluation time (H1); an exploratory rational-lag baseline (H8) decomposes this into ~25% peer-review latency, ~75% excess lag. The gap is widening at +5.53 ECI/year (H2; 95% CI [+5.03, +5.83]). Meanwhile, only 3.2% of abstracts (21.2% of full-texts) disclose reasoning-mode status on reasoning-capable models (H4) and 52.5% (95% CI [48.2, 56.9]) state conclusions at the level of "AI" rather than the evaluated model(s), rising at OR = 1.23/year. Proposed remedies include API-access subsidies and editorial enforcement of reporting frameworks mandating configuration-surface disclosure (model snapshot, reasoning mode/effort, tool access, scaffolding, prompting, etc.); VERSIO-AI is a 13-item checklist (Core 3 desk-reject) extending existing frameworks at the elicitation surface, with per-DOI analysis at frontierlag.org.


翻译:应用领域大语言模型能力评估的读者希望了解当前AI系统能做什么。这类文献回答的是一个相关但后果迥异的问题:较旧、较便宜、较少被引导的模型在数月或数年前能做什么(例如,一篇2026年的论文评估GPT-3.5或GPT-4的零样本能力,将其与GPT-5.5 Pro和Claude Opus 4.7等具备推理能力、能使用工具的前沿系统进行比较),且通常仅提供稀疏的配置细节,并抽象上升为关于“AI”的论断,通过引用、媒体和政策传播。我们在一项预注册审计中测量了“发表引导差距”(这些答案之间的差距),该审计覆盖112,303条LLM关键词匹配的候选记录(2022年1月至2026年4月;18,574条可纳入,4,766篇全文可获取),将测试模型与Epoch AI能力指数(ECI)上的同期前沿进行比较,并基于Arena Elo和Artificial Analysis进行了复现。评估时,论文所选模型的中位值落后同期前沿+10.85 ECI(约1.4倍于Claude Sonnet 3.7与Claude Opus 4.5之差)(H1);一项探索性理性滞后基线(H8)将其分解为约25%的同行评审延迟和约75%的过度滞后。该差距正在以每年+5.53 ECI的速度扩大(H2;95%置信区间[+5.03, +5.83])。同时,仅3.2%的摘要(21.2%的全文)披露了具备推理能力模型的推理模式状态(H4),且52.5%(95%置信区间[48.2, 56.9])的结论上升到“AI”层面而非所评估的模型,并以OR=1.23/年的速度增长。拟议的补救措施包括API访问补贴和编辑强制执行报告框架,要求披露配置表面(模型快照、推理模式/努力、工具访问、脚手架、提示等);VERSIO-AI是一个13项清单(核心3项为直接拒稿),在引导表面扩展了现有框架,详细分析见frontierlag.org。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
前沿人工智能趋势报告(Frontier AI Trends Report)
专知会员服务
40+阅读 · 2025年12月20日
大语言模型评估技术研究进展
专知会员服务
49+阅读 · 2024年7月9日
AI何以涌现:复杂适应系统视角的ChatGPT和大语言模型
专知会员服务
59+阅读 · 2024年2月10日
RecInterpreter:架起大语言模型与传统推荐模型的桥梁
专知会员服务
54+阅读 · 2023年11月9日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
年龄估计技术综述
人工智能前沿讲习班
24+阅读 · 2019年2月19日
语音识别的前沿论文,看我们推荐的这4篇
人工智能前沿讲习班
26+阅读 · 2019年1月14日
类脑计算的前沿论文,看我们推荐的这7篇
人工智能前沿讲习班
21+阅读 · 2019年1月7日
AI综述专栏|跨领域推荐系统文献综述(下)
人工智能前沿讲习班
14+阅读 · 2018年5月18日
AI综述专栏 | 跨领域推荐系统文献综述(上)
人工智能前沿讲习班
13+阅读 · 2018年5月16日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Arxiv
14+阅读 · 2024年5月21日
VIP会员
最新内容
战力倍增器:自主武器系统与乌克兰及加沙冲突
人工智能赋能战场情报:提速决策进程
专知会员服务
2+阅读 · 7月17日
《拥抱新兴技术:面向未来军官的教育革新》
专知会员服务
5+阅读 · 7月17日
《无人地面战车(UGV)的崛起》报告
专知会员服务
7+阅读 · 7月16日
相关资讯
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员