ACM MM 2026 | UNIT：释放大语言模型在图持续学习中的潜力

导读

在真实多媒体 Web 场景中，图数据往往不是一次性给定的静态对象，而是持续到来的动态数据流。例如社交网络中的用户关系、知识图谱中的实体连接、推荐系统中的用户-物品交互，都会随着时间不断出现新节点、新类别和新关系。如何让模型在学习新任务时不遗忘旧知识，是图持续学习（Graph Continual Learning, GCL）的核心问题。 这篇 ACM MM 2026 论文《UNIT: Unleash Large Language Models Potential for Graph Continual Learning》关注一个很具体但重要的问题：大语言模型具备强语义理解能力，能不能真正用于图持续学习？作者指出，现有方法主要有两类不足：一是图模型擅长拓扑结构建模，但对深层语义利用不足；二是 LLM/Graph Language Model 方法能够利用文本语义，却常常把图结构线性化为 prompt，导致高阶拓扑信息被弱化，同时历史知识迁移方式过于僵硬。 为此，论文提出 UNIT 框架。它只在第一个任务上对 LLM 做语义指令调优，后续任务冻结 LLM 参数，仅更新分类器；同时通过“不确定性感知锚点生成”保留跨任务语义知识，并通过“结构汇流建模”显式注入图拓扑信息。实验覆盖 Cora、Citeseer、WikiCS、Photo、Products 五个文本属性图数据集，UNIT 在标准持续学习和 few-shot 场景中均达到最优表现。

论文信息

论文标题：UNIT: Unleash Large Language Models Potential for Graph Continual Learning 会议：ACM MM 2026 作者：Tairan Huang, Yili Wang, Beibei Hu, Yiting Shi, Qiutong Li, Changlong He, Jianliang Gao 机构：Central South University、Hongkong University of Science and Technology (Guangzhou)、Hunan Institute of Engineering 论文链接：https://arxiv.org/abs/2607.10159 关键词：Graph Continual Learning、Large Language Models、Text-attributed Graphs、Multimodal Fusion

背景：图持续学习为什么需要 LLM

图持续学习要解决的是动态到来的图任务。以文本属性图为例，每个节点不仅有边连接，还有文本描述；随着新类别和新节点不断出现，模型需要持续更新分类能力，同时避免遗忘旧类别。传统 GCL 方法通常依赖 GNN，使用正则化、参数隔离或经验回放来缓解灾难性遗忘。 但这些方法存在实际限制。回放历史数据可能受到隐私和存储约束；参数隔离会不断扩大模型；单纯拓扑建模又难以充分利用节点文本中的语义知识。另一方面，LLM 在语义理解上很强，但直接把图邻居、边关系和节点属性写成文本 prompt，会把非欧几里得图结构压平成线性序列，容易损失高阶拓扑模式。 论文把现有问题归纳为两个关键矛盾。第一是“语义-结构分离”：GNN 重结构但弱语义，LLM 重语义但结构常被线性化。第二是“知识迁移不平衡”：已有原型或锚点方法往往对样本一视同仁，忽略流式数据中的噪声和不确定性，导致历史知识保存与新任务适应之间失衡。

核心思路：只微调一次 LLM，后续靠锚点持续迁移

UNIT 的核心设计非常克制：不是每个新任务都微调 LLM，也不是让 LLM 直接承担所有持续学习更新，而是把 LLM 作为稳定的语义编码器和知识生成器。 具体流程分为三步。 第一步，语义指令调优。作者为文本属性图构造专门的 graph prompt，其中包含任务描述、节点文本属性、局部邻居结构和分类问题。LLM 只在第一个任务上通过 LoRA 做指令微调，用来弥合预训练语料和目标图任务之间的分布差异。 第二步，不确定性感知锚点生成。经过调优的 LLM 为每个任务中的标注节点生成嵌入，并根据预测分布熵计算样本置信度。置信度高的样本对类锚点贡献更大，置信度低或噪声较大的样本贡献更小。随后，UNIT 使用指数衰减方式融合历史锚点和当前任务锚点，使旧知识不会被直接覆盖。 第三步，结构汇流建模。仅有语义锚点还不够，因为图任务的类别边界常与拓扑结构相关。UNIT 进一步为节点构造轻量结构描述，包括节点度、邻居平均度和聚类系数等局部结构特征，并形成结构锚点。最终，分类器权重由语义锚点和结构锚点共同更新，在语义理解与拓扑建模之间建立连接。

模块一：语义指令调优

UNIT 首先面向文本属性图构造专门 prompt。一个节点的输入不仅包括节点文本，还包括邻居上下文、局部结构描述和候选类别集合。例如，对于论文分类数据集，prompt 会描述目标节点及其一跳、二跳邻居的属性，并要求模型从候选类别中预测该节点所属类别。 作者只在首个任务上微调 LLM，且采用 LoRA 而非全量微调。这一设计有两个好处：一是成本较低，避免持续任务中反复调大模型；二是后续任务中冻结 LLM 参数，有助于降低灾难性遗忘。换句话说，UNIT 把 LLM 从“持续被更新的模型”变成“稳定语义空间中的编码器和知识源”。 这一点与很多 LLM 持续学习方法不同。后者常关注如何让 LLM 自身持续学习新语义，而 UNIT 更关注如何用 LLM 支撑图持续学习：首个任务完成适配，后续任务通过分类器和锚点机制吸收新类别信息。

模块二：不确定性感知锚点生成

持续学习中的原型或锚点方法很常见，但关键在于“哪些样本更应该代表一个类别”。如果简单对所有样本嵌入做平均，噪声样本、边界样本和低置信预测会污染类表示。UNIT 因此引入不确定性感知权重。 对每个标注节点，LLM 根据 prompt 产生预测分布。作者用熵衡量预测不确定性，再将其转化为置信度权重。置信度越高，节点嵌入在类锚点中占比越大；不确定性越高，贡献越低。这让锚点更关注代表性强、语义稳定的样本。 随后，UNIT 通过指数衰减融合历史锚点和当前任务锚点。衰减因子控制旧知识保留程度：过高会让历史知识过强、影响新任务适应；过低则容易遗忘。这样的软更新比静态原型更适合流式图数据，因为它允许模型逐步校准类别语义，而不是一次性固定。

模块三：结构汇流建模

UNIT 的第三个模块解决 LLM 在图任务中的核心短板：结构信息被文本化后容易丢失。作者没有让 LLM 单独从 prompt 中“读懂”全部图结构，而是显式构造结构锚点。 对于每个节点，UNIT 提取局部拓扑描述，例如节点度、邻居平均度、聚类系数，并映射为结构嵌入。对同一类别的标注节点，这些结构嵌入被聚合成类级结构锚点。结构锚点也采用跨任务指数更新，以保留历史结构模式并吸收新任务证据。 最终，分类器权重由语义锚点和结构锚点加权组合得到。这样一来，UNIT 不再把图结构完全交给 LLM 通过线性 prompt 隐式理解，而是让语义锚点负责文本语义，结构锚点负责拓扑模式，两者共同形成分类决策边界。 这一设计是论文最重要的思想之一：LLM 很强，但在图持续学习中不应该替代结构建模，而应该与结构建模汇流。

实验设置

论文在五个公开文本属性图数据集上评估 UNIT：Cora、Citeseer、WikiCS、Photo、Products。任务形式为节点级类增量学习，即新任务不断引入新类别，模型需要持续预测节点类别。 对比方法覆盖三类 baseline。第一类是传统图持续学习方法，包括 GCN、EWC、LwF、Cosine、TPP 等。第二类是 LLM 持续学习或分类方法，如 BERT、RoBERTa、LLaMA、SimpleCIL。第三类是图语言模型相关方法，包括 GCN-LLMEmb、ENGINE、GraphPrompter、GraphGPT、LLaGA、SimGCL 等。 评测指标包括 ACCavg 和 ACCN。ACCavg 表示所有任务平均准确率，反映整体持续学习表现；ACCN 表示最后任务准确率，更能体现模型在持续学习末端是否仍保持稳定。

主结果：五个数据集全面领先

表 1 显示，UNIT 在五个数据集上均取得最优表现。以标准设置为例，UNIT 在 Cora 上达到 88.7 ACCavg 和 85.9 ACCN，在 Citeseer 上达到 79.4 和 68.5，在 WikiCS 上达到 76.1 和 65.0，在 Photo 上达到 83.9 和 76.5，在 Products 上达到 73.2 和 62.5。

从曲线结果看，UNIT 在多任务序列中保持了更稳定的性能，尤其在后续任务上没有像传统 GNN 或部分 GLM 方法那样快速下降。论文指出，相比只依赖结构信息的传统方法，UNIT 能显著提升分类性能；相比已有 LLM-based 图持续学习方法，UNIT 通过任务特定指令调优、语义锚点和结构锚点组合，进一步提升了 ACCavg 与 ACCN。

这些结果说明，UNIT 的收益不是单一来源。LLM 提供了更强语义理解，但如果没有不确定性感知更新和结构汇流，仅靠 LLM prompt 并不足以稳定解决图持续学习。

Few-shot 场景：低标注下仍保持优势

图持续学习在真实场景中常常伴随标注稀缺。论文进一步评估 few-shot 设置，结果显示 UNIT 仍然在五个数据集上保持最优或接近最优表现。作者报告，相比现有最强方法，UNIT 在 few-shot 场景下最高可带来 9.1% 的 ACCavg 提升和 14.6% 的 ACCN 提升。

这部分结果尤其有实际意义。动态图数据流中，新类别刚出现时往往没有充足标注样本；如果模型必须依赖大量标注才能维持性能，就很难用于真实 Web、推荐和知识图谱场景。UNIT 通过 LLM 语义先验和跨任务锚点迁移，在低标注条件下更容易形成稳健类别表示。

消融实验：三个模块缺一不可

论文还通过消融实验验证每个模块的贡献。对比变体包括去掉语义指令调优、去掉不确定性感知锚点生成、去掉结构汇流建模等。结果显示，完整 UNIT 在 ACCavg 和 ACCN 上均优于各个变体。

其中，去掉语义指令调优会削弱 LLM 对目标图任务的适配能力；去掉不确定性感知锚点会影响历史知识迁移的可靠性；去掉结构汇流建模则会破坏语义与拓扑之间的协同。完整模型能够同时利用语义、置信度和结构，从而在持续任务中保持更稳定的分类边界。

参数分析：历史知识与新知识的平衡

UNIT 有两个重要超参数：一个控制语义锚点更新的衰减因子，另一个控制结构锚点更新的衰减因子。参数分析显示，当这两个值过低时，模型无法充分保留历史知识；当过高时，旧知识又会过度主导，削弱对新任务的适应。UNIT 在较宽参数范围内保持相对稳定，说明该框架对超参数具备一定鲁棒性。

这个结果也对应持续学习的基本矛盾：模型既要记住过去，又要适应现在。UNIT 通过锚点衰减和不确定性加权，让这种平衡变得可控。

方法价值与局限

UNIT 的价值在于，它为“LLM + 图持续学习”提供了一个清晰而高效的范式。它没有让 LLM 在每个任务中反复微调，也没有把图结构完全变成自然语言描述，而是把 LLM 的语义空间、样本不确定性和显式拓扑结构结合起来。 从应用角度看，这一思路适用于多媒体社交网络、文本属性知识图谱、论文/商品/用户节点分类、推荐系统动态图等场景。这些场景中，节点通常带有文本或多模态属性，类别和关系持续变化，且历史数据可能因为隐私或成本无法完整回放。 不过，论文也留下了一些值得进一步探索的问题。首先，UNIT 当前主要在文本属性图的节点分类任务上验证，未来需要扩展到边预测、图分类、推荐和多模态节点属性更复杂的场景。其次，结构汇流建模使用的是较轻量的局部结构特征，如何建模更高阶、更动态的结构变化仍是开放问题。最后，LLM backbone 的规模和能力会影响性能，但实际部署时还需要考虑推理成本、延迟和存储开销。

总结

UNIT 解决的是图持续学习中一个非常现实的问题：动态图数据既有丰富语义，又有复杂结构，还会随着时间不断变化。传统 GNN 方法容易忽视语义，LLM 方法又容易弱化拓扑结构，并且历史知识迁移不够可靠。 论文提出的 UNIT 用三步完成整合：首个任务上进行语义指令调优，让 LLM 适配图任务；通过不确定性感知锚点生成，保留可靠的类别语义知识；通过结构汇流建模，把拓扑信息显式注入分类器。实验表明，UNIT 在五个文本属性图数据集、标准持续学习和 few-shot 场景中均取得强性能。 对图学习和多媒体数据挖掘研究来说，这篇论文的启发是：LLM 并不是图模型的替代品，而是可以作为强语义引擎，与结构建模、持续学习机制共同组成更稳健的动态图学习系统。