Generative AI agents equate understanding with resolving explicit queries, an assumption that confines interaction to what users can articulate. This assumption breaks down when users themselves lack awareness of what is missing, risky, or worth considering. In such conditions, proactivity is not merely an efficiency enhancement, but an epistemic necessity. We refer to this condition as epistemic incompleteness: where progress depends on engaging with unknown unknowns for effective partnership. Existing approaches to proactivity remain narrowly anticipatory, extrapolating from past behavior and presuming that goals are already well defined, thereby failing to support users meaningfully. However, surfacing possibilities beyond a user's current awareness is not inherently beneficial. Unconstrained proactive interventions can misdirect attention, overwhelm users, or introduce harm. Proactive agents, therefore, require behavioral grounding: principled constraints on when, how, and to what extent an agent should intervene. We advance the position that generative proactivity must be grounded both epistemically and behaviorally. Drawing on the philosophy of ignorance and research on proactive behavior, we argue that these theories offer critical guidance for designing agents that can engage responsibly and foster meaningful partnerships.


翻译:生成式人工智能代理将理解等同于解决显式查询,这一假设将交互限制在用户能够明确表达的范围内。当用户自身未能意识到缺失、风险或值得考量的因素时,该假设即告失效。在此类情境下,主动性不仅是效率提升的手段,更成为认知层面的必然需求。我们将此状态称为认知不完整性:即有效协作的进展依赖于对未知未知领域的探索。现有的主动性研究方法仍局限于狭隘的预测范式——基于历史行为进行外推,并假定目标已明确定义,因而无法为用户提供实质性支持。然而,单纯揭示用户当前认知范围之外的可能性本身并不必然产生价值。无约束的主动干预可能误导注意力、造成认知过载甚至引发危害。因此,主动型代理需要行为奠基:即关于代理应在何时、以何种方式及何种程度进行干预的原则性约束。本文主张生成式主动性必须同时建立在认知基础与行为基础之上。借鉴无知哲学与主动性行为研究,我们认为这些理论为设计能够负责任地参与互动并促进有意义协作的智能代理提供了关键指导。

0
下载
关闭预览

相关内容

《代理型人工智能全面指南》,45页ppt
专知会员服务
61+阅读 · 2025年2月12日
推荐!《人与AI协作中的可解释人工智能》320页论文
专知会员服务
137+阅读 · 2023年7月31日
237页ppt《主动学习》最新概述,Stefano Teso讲授!
专知会员服务
66+阅读 · 2022年8月28日
基于知识图谱的问答系统
PaperWeekly
21+阅读 · 2021年2月8日
浅谈主动学习(Active Learning)
凡人机器学习
32+阅读 · 2020年6月18日
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Arxiv
0+阅读 · 2月17日
Arxiv
0+阅读 · 2月8日
VIP会员
相关基金
国家自然科学基金
9+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员