When organizations delegate text generation tasks to AI providers via pay-for-performance contracts, expected payments rise when evaluation is noisy. As evaluation methods become more elaborate, the economic benefits of decreased noise are often overshadowed by increased evaluation costs. In this work, we introduce adaptive contracts for AI delegation, which allow detailed evaluation to be performed selectively after observing an initial coarse signal in order to conserve resources. We make three sets of contributions: First, we provide efficient algorithms for computing optimal adaptive contracts under natural assumptions or when core problem dimensions are small, and prove hardness of approximation in the general unstructured case. We then formulate alternative models of randomized adaptive contracts and discuss their benefits and limitations. Finally, we empirically demonstrate the benefits of adaptivity over non-adaptive baselines using question-answering and code-generation datasets.


翻译:当组织通过按绩效付费合约将文本生成任务委托给AI提供商时,若评估存在噪声,预期支付将随之增加。随着评估方法日趋复杂,噪声降低带来的经济效益往往被评估成本的上升所抵消。本研究提出一种用于AI委托的自适应合约机制,该机制允许在观测到初始粗略信号后,有选择性地执行详细评估,从而节约资源。我们做出三方面贡献:首先,在自然假设或核心问题维度较小时,我们提供了计算最优自适应合约的高效算法,并证明了一般非结构化情形下的近似求解困难性。其次,我们构建了随机化自适应合约的替代模型,并讨论其优势与局限。最后,我们基于问答与代码生成数据集进行实证研究,验证了自适应机制相较于非自适应基线的优越性。

0
下载
关闭预览

相关内容

AI应用正当时,详解AI应用开发新范式
专知会员服务
28+阅读 · 2025年7月10日
文本、视觉与语音生成的自动化评估方法综述
专知会员服务
20+阅读 · 2025年6月15日
【新书】使用AI智能体构建应用程序
专知会员服务
61+阅读 · 2024年10月26日
AI Agent:基于大模型的自主智能体
专知会员服务
249+阅读 · 2023年9月9日
智能合约的形式化验证方法研究综述
专知
16+阅读 · 2021年5月8日
深度文本匹配在智能客服中的应用
AI100
18+阅读 · 2018年10月24日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Arxiv
0+阅读 · 4月21日
Arxiv
0+阅读 · 3月3日
Arxiv
0+阅读 · 3月2日
VIP会员
最新内容
美国军方使用的10种反无人机武器(2026年更新)
专知会员服务
4+阅读 · 今天4:07
认知战与交战性质的改变:神经战略视角
专知会员服务
5+阅读 · 5月8日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
47+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
国家自然科学基金
17+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员