Voice-controlled dialog systems have become immensely popular due to their ability to perform a wide range of actions in response to diverse user queries. These agents possess a predefined set of skills or intents to fulfill specific user tasks. But every system has its own limitations. There are instances where, even for known intents, if any model exhibits low confidence, it results in rejection of utterances that necessitate manual annotation. Additionally, as time progresses, there may be a need to retrain these agents with new intents from the system-rejected queries to carry out additional tasks. Labeling all these emerging intents and rejected utterances over time is impractical, thus calling for an efficient mechanism to reduce annotation costs. In this paper, we introduce IDALC (Intent Detection and Active Learning based Correction), a semi-supervised framework designed to detect user intents and rectify system-rejected utterances while minimizing the need for human annotation. Empirical findings on various benchmark datasets demonstrate that our system surpasses baseline methods, achieving a 5-10% higher accuracy and a 4-8% improvement in macro-F1. Remarkably, we maintain the overall annotation cost at just 6-10% of the unlabelled data available to the system. The overall framework of IDALC is shown in Fig. 1


翻译:语音控制对话系统因其能够响应多样化用户查询而执行广泛操作,已变得极为普及。这些智能体具备预定义的技能集或意图集以完成特定用户任务。然而,每个系统都存在固有局限性。在某些情况下,即使对于已知意图,若模型表现出较低置信度,仍会导致需要人工标注的话语被系统拒绝。此外,随着时间的推移,可能需要利用系统拒绝查询中的新意图重新训练这些智能体,以执行额外任务。持续标注所有新出现的意图和拒绝话语并不现实,因此需要一种高效机制来降低标注成本。本文提出IDALC(基于意图检测与主动学习校正的半监督框架),该框架旨在检测用户意图并校正系统拒绝的话语,同时最大限度减少人工标注需求。在多个基准数据集上的实验结果表明,我们的系统优于基线方法,准确率提升5-10%,宏观F1分数提高4-8%。值得注意的是,我们将整体标注成本控制在系统可用未标注数据量的6-10%。IDALC的整体框架如图1所示。

0
下载
关闭预览

相关内容

通用智能体评估的逻辑架构
专知会员服务
22+阅读 · 2月28日
集成智能系统评价框架与应用研究
专知会员服务
70+阅读 · 2023年9月13日
专知会员服务
65+阅读 · 2021年7月5日
基于小样本学习的意图识别冷启动
PaperWeekly
11+阅读 · 2019年5月12日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
VIP会员
最新内容
俄乌无人机战争的六大启示
专知会员服务
8+阅读 · 8月3日
《无人机空中监控:通信实验洞察》
专知会员服务
6+阅读 · 8月3日
从采集到决策:美军视角下的战术情报范式重构
《履带式无人地面战车技术发展现状》
专知会员服务
6+阅读 · 8月2日
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
7+阅读 · 8月1日
美空军如何将人工智能从战场部署至后方机关
专知会员服务
14+阅读 · 7月31日
相关VIP内容
通用智能体评估的逻辑架构
专知会员服务
22+阅读 · 2月28日
集成智能系统评价框架与应用研究
专知会员服务
70+阅读 · 2023年9月13日
专知会员服务
65+阅读 · 2021年7月5日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员