We present an extended Greek Dialectal Dataset (GRDD+) 1that complements the existing GRDD dataset with more data from Cretan, Cypriot, Pontic and Northern Greek, while we add six new varieties: Greco-Corsican, Griko (Southern Italian Greek), Maniot, Heptanesian, Tsakonian, and Katharevusa Greek. The result is a dataset with total size 6,374,939 words and 10 varieties. This is the first dataset with such variation and size to date. We conduct a number of fine-tuning experiments to see the effect of good quality dialectal data on a number of LLMs. We fine-tune three model architectures (Llama-3-8B, Llama-3.1-8B, Krikri-8B) and compare the results to frontier models (Claude-3.7-Sonnet, Gemini-2.5, ChatGPT-5).


翻译:我们提出了一个扩展的希腊方言数据集(GRDD+),该数据集在现有GRDD的基础上,补充了更多来自克里特、塞浦路斯、庞蒂克和北希腊的方言数据,同时新增了六种新的变体:希腊-科西嘉语、格里科语(南意大利希腊语)、马尼奥特语、赫普塔尼西亚语、察科尼亚语以及卡萨雷乌萨希腊语。最终构建的数据集总规模达6,374,939词,涵盖10种方言变体。这是迄今为止首个具有如此多样性和规模的数据集。我们进行了一系列微调实验,以探究高质量方言数据对多种大语言模型的影响。我们微调了三种模型架构(Llama-3-8B、Llama-3.1-8B、Krikri-8B),并将结果与前沿模型(Claude-3.7-Sonnet、Gemini-2.5、ChatGPT-5)进行了对比。

0
下载
关闭预览

相关内容

数据集,又称为资料集、数据集合或资料集合,是一种由数据所组成的集合。
Data set(或dataset)是一个数据的集合,通常以表格形式出现。每一列代表一个特定变量。每一行都对应于某一成员的数据集的问题。它列出的价值观为每一个变量,如身高和体重的一个物体或价值的随机数。每个数值被称为数据资料。对应于行数,该数据集的数据可能包括一个或多个成员。
最全中文自然语言处理数据集、平台和工具整理
深度学习与NLP
34+阅读 · 2019年6月22日
中文自然语言处理数据集:ChineseNLPCorpus
AINLP
35+阅读 · 2019年6月21日
用于语音识别的数据增强
AI研习社
24+阅读 · 2019年6月5日
Jiagu:中文深度学习自然语言处理工具
AINLP
90+阅读 · 2019年2月20日
自然语言处理(NLP)数据集整理
论智
20+阅读 · 2018年4月8日
自然语言处理数据集免费资源开放(附学习资料)
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
VIP会员
最新内容
大模型错因诊断分析
专知会员服务
2+阅读 · 4月9日
视频生成基础模型进展
专知会员服务
2+阅读 · 4月9日
《关键任务型人工智能的可靠性》
专知会员服务
5+阅读 · 4月9日
人工智能军事技术在中东地区的扩散
专知会员服务
4+阅读 · 4月9日
《军用5G基本战术网络研究与仿真》
专知会员服务
9+阅读 · 4月9日
相关VIP内容
相关资讯
相关基金
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员