Exploratory question answering (EQA) over data lakes requires an LLM agent to discover relevant sources, analyze retrieved data, and adapt its actions based on intermediate results. End-to-end accuracy alone cannot distinguish failures in search, planning, data analysis, or the agent's Action Policy: its decisions about what to do next and when to submit an answer. We present SANA (Search Agent Navigation Ablation framework), a diagnostic ablation framework that transforms EQA tasks into runtime profiles containing gold source sequence, sanitized subquestions, and execution records. SANA uses these profiles to construct idealized search, planning, and data-analysis tools, allowing each component to be ablated; the residual gap is diagnostic evidence for policy failures. To illustrate SANA as a reusable evaluation framework, we adapted two recent EQA benchmarks, LakeQA and KramaBench, and evaluated lightweight and mid-sized agents under fixed prompts, budgets, data lakes, and runtimes. Across both benchmarks, data analysis is a consistent bottleneck while planning is less so. Search is a major limitation in LakeQA's large data-lake setting, but less so for the smaller-scale KramaBench. SANA thus deconstructs end-to-end task accuracies into a diagnosis of where data-lake agents fail, and allows for systematic comparisons of progress in search, planning, data analysis, and agent design.


翻译:探索性问答(EQA)要求大语言模型代理在数据湖中发现相关数据源、分析检索到的数据,并根据中间结果调整其行为。仅凭端到端准确率无法区分搜索、规划、数据分析或代理行动策略(即其关于下一步行动及何时提交答案的决策)中的失败。我们提出SANA(搜索代理导航消融框架),这是一种诊断性消融框架,可将EQA任务转化为包含黄金源序列、清理后子问题及执行记录的运行时配置。SANA利用这些配置构建理想化的搜索、规划与数据分析工具,从而允许对各组件进行消融;残留差距即为策略失败的诊断证据。为展示SANA作为可复用评估框架,我们适配了LakeQA和KramaBench两个近期EQA基准,并在固定提示、预算、数据湖及运行时环境下评估了轻量与中等规模代理。在两个基准中,数据分析始终是瓶颈,而规划问题相对次要。搜索在LakeQA的大规模数据湖场景中构成主要限制,但在小规模KramaBench中影响较小。因此,SANA将端到端任务准确率解构为数据湖代理失败成因的诊断,并支持对搜索、规划、数据分析及代理设计进展的系统性比较。

0
下载
关闭预览

相关内容

《影响对人工智能决策支持系统依赖度的关键因素》304页
大模型数学推理数据合成相关方法
专知会员服务
36+阅读 · 2025年1月19日
大型语言模型代理的安全与隐私综述
专知会员服务
30+阅读 · 2024年8月5日
【CVPR2024】MoReVQA:探索视频问答的模块化推理模型
专知会员服务
18+阅读 · 2024年4月10日
Al Agent--大模型时代重要落地方向
专知会员服务
107+阅读 · 2024年4月8日
基于 SonarQube 的增量代码扫描
DevOps时代
12+阅读 · 2019年7月18日
一文教你如何处理不平衡数据集(附代码)
大数据文摘
12+阅读 · 2019年6月2日
【干货】电商数据中台如何构建?
AliData
11+阅读 · 2019年4月4日
推荐系统BAT面试题:说说协同过滤的原理
七月在线实验室
50+阅读 · 2019年1月30日
【大数据】海量数据分析能力形成和大数据关键技术
产业智能官
17+阅读 · 2018年10月29日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
6+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
4+阅读 · 6月17日
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
11+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员