Multilingual intent classification is central to customer-service systems on global logistics platforms, where models must process noisy user queries across languages and hierarchical label spaces. Yet most existing multilingual benchmarks rely on machine-translated text, which is typically cleaner and more standardized than native customer requests and can therefore overestimate real-world robustness. We present a public benchmark for hierarchical multilingual intent classification constructed from real logistics customer-service logs. The dataset contains approximately 30K de-identified, stand-alone user queries curated from 600K historical records through filtering, LLM-assisted quality control, and human verification, and is organized into a two-level taxonomy with 13 parent and 17 leaf intents. English, Spanish, and Arabic are included as seen languages, while Indonesian, Chinese, and additional test-only languages support zero-shot evaluation. To directly measure the gap between synthetic and real evaluation, we provide paired native and machine-translated test sets and benchmark multilingual encoders, embedding models, and small language models under flat and hierarchical protocols. Results show that translated test sets substantially overestimate performance on noisy native queries, especially for long-tail intents and cross-lingual transfer, underscoring the need for more realistic multilingual intent benchmarks.


翻译:多语言意图分类是全球物流平台客服系统的核心,模型需跨语言处理含噪用户查询及层次化标签空间。然而,现有的大多数多语言基准依赖于机器翻译文本,这类文本通常比原生客户请求更干净、更标准化,因此可能高估实际鲁棒性。我们提出了一个基于真实物流客服日志构建的层次化多语言意图分类公开基准。该数据集包含约30K条去标识化的独立用户查询,这些查询从600K条历史记录中通过过滤、LLM辅助质量控制和人工验证筛选而来,并按两级分类体系组织,包含13个父意图和17个子意图。英语、西班牙语和阿拉伯语作为已见语言,而印尼语、中文及其他仅用于测试的语言则支持零样本评估。为直接衡量合成评估与真实评估之间的差距,我们提供了配对的天然测试集与机器翻译测试集,并在扁平化和层次化协议下对多语言编码器、嵌入模型及小型语言模型进行了基准测试。结果表明,翻译测试集显著高估了模型在含噪原生查询上的性能,尤其是长尾意图和跨语言迁移场景,这凸显了构建更真实多语言意图基准的必要性。

0
下载
关闭预览

相关内容

《基于分类方法的自动人机对话》
专知会员服务
27+阅读 · 2023年7月18日
注意力图神经网络的多标签文本分类
专知会员服务
112+阅读 · 2020年3月28日
搜索query意图识别的演进
DataFunTalk
13+阅读 · 2020年11月15日
最全中文自然语言处理数据集、平台和工具整理
深度学习与NLP
34+阅读 · 2019年6月22日
专栏 | NLP概述和文本自动分类算法详解
机器之心
12+阅读 · 2018年7月24日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
VIP会员
相关主题
最新内容
世界模型入门:从序贯决策到通用智能体
专知会员服务
8+阅读 · 10月24日
军事域更好使用人工智能的实用指南
专知会员服务
10+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
专知会员服务
14+阅读 · 10月20日
Maven智能系统:帕兰提尔军事人工智能平台详解
专知会员服务
17+阅读 · 10月20日
《测试自动化框架在敏捷软件开发中的角色》
专知会员服务
9+阅读 · 10月20日
俄罗斯如何拦截乌克兰无人机与巡航导弹
专知会员服务
13+阅读 · 10月15日
《武器-目标分配问题:精确与近似求解算法》
专知会员服务
19+阅读 · 10月15日
相关VIP内容
《基于分类方法的自动人机对话》
专知会员服务
27+阅读 · 2023年7月18日
注意力图神经网络的多标签文本分类
专知会员服务
112+阅读 · 2020年3月28日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员