Chinese demonstrates high semantic compactness and rich metaphorical expressiveness, enabling limited text to convey dense meanings while increasing the difficulty of generation and verification, particularly in short-form creative natural language generation (CNLG). In the real world, users often require personalized, fine-grained creative constraints, making reliable verification critical to guiding optimization. According to Brunswik's Lens Model from psychology, constraints' achievement can be inferred from sufficient observable cues. Existing studies are mainly outcome-oriented, implicitly assuming that the outcome itself provides adequate cues for verification. However, this assumption breaks down in Chinese short-form CNLG (e.g., naming or advertising) with diverse personalized constraints, where extremely brief outcomes inherently offer limited information. Explanations can naturally serve as extra cues. Nevertheless, under complex constraints, LLMs' explanations may suffer from hallucination, incompleteness, or ambiguity. To address these, we novelly formalize the Chinese short-form CNLG task as a heterogeneous multi-objective optimization (HMO) issue that needs to jointly optimize multiple personalized constraints and explanation reliability. We further propose MAGIC-HMO, a training-free multi-agent framework that optimizes these objectives through iterative generation and verification under an explanation-oriented multi-objective strategy. Experiments on \emph{Chinese Baby Naming}, a challenging benchmark, demonstrate that MAGIC-HMO significantly outperforms six strong baselines across various LLM backbones. Relevant data and codes are available at https://github.com/foolfun/MAGIC_HMO.


翻译:中文具有语义高度紧凑和丰富隐喻表达的特点,使得有限的文字能承载密集的语义,同时也增加了生成和验证的难度,尤其是在短文本创意自然语言生成(CNLG)任务中。在现实场景中,用户常提出个性化、细粒度的创意约束,这使得可靠的验证对指导优化至关重要。根据心理学中的Brunswik透镜模型,约束的达成度可通过充分的观测线索推断。现有研究主要面向结果导向,隐含假设输出结果本身能为验证提供足够线索。然而,这一假设在中文短文本CNLG(如命名或广告创作)中面临挑战——面对多样化的个性化约束时,极其简短的输出天然包含有限信息。解释可自然成为额外线索。但在复杂约束下,大型语言模型(LLM)生成的解释可能包含幻觉、不完整或歧义问题。为解决这一困境,我们创新性地将中文短文本CNLG任务建模为异构多目标优化(HMO)问题,需同时优化多个个性化约束与解释可靠性。进一步提出MAGIC-HMO——一种免训练的多智能体框架,通过基于解释导向的多目标策略,在迭代生成与验证机制中优化这些目标。在具有挑战性的基准《中文婴儿取名》上的实验表明,MAGIC-HMO在多种LLM基座下均显著优于六个强基线方法。相关数据与代码见https://github.com/foolfun/MAGIC_HMO。

0
下载
关闭预览

相关内容

大型语言模型赋能科研创意生成:创造力导向的研究综述
专知会员服务
19+阅读 · 2025年11月13日
多样化偏好优化
专知会员服务
12+阅读 · 2025年2月3日
【ACMMM2022最佳论文】搜索导向的短视频描述
专知会员服务
14+阅读 · 2022年10月21日
医疗健康领域的短文本解析探索----文本纠错
深度学习自然语言处理
10+阅读 · 2020年8月5日
强化学习与文本生成
微信AI
41+阅读 · 2019年4月4日
NLG ≠ 机器写作 | 专家专栏
量子位
13+阅读 · 2018年9月10日
100+中文词向量,总有一款适合你
专知
12+阅读 · 2018年5月13日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Arxiv
0+阅读 · 5月12日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
7+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
7+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关VIP内容
大型语言模型赋能科研创意生成:创造力导向的研究综述
专知会员服务
19+阅读 · 2025年11月13日
多样化偏好优化
专知会员服务
12+阅读 · 2025年2月3日
【ACMMM2022最佳论文】搜索导向的短视频描述
专知会员服务
14+阅读 · 2022年10月21日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员