Multimodal attributed graphs combine graph structure with node text and image representations in recommendation and multimedia analysis. Graph predictors propagate these representations across connected nodes, so one input can change predictions at its own and nearby nodes. Measuring this distributed response reveals which modality-specific inputs a trained model relies on and how predictor design changes that reliance. We study influence measurement for modality-specific node representations. Given an encoded graph, a trained predictor, a training split, and fixed candidate representations, the task outputs one influence score per candidate and separate text and image rankings. We score a candidate by replacing it with its modality's training-node mean and comparing the original and changed predictions. Existing feature attribution and data valuation generally target one output, training examples, whole nodes, or graph elements rather than prediction changes across graph nodes. Our empirical study shows that nearby-node responses contain information missed by source-only scores and simple proxies, while response magnitude alone does not identify which class changes support the task. Guided by these observations, we propose MoGI (Modality-specific Graph Influence). It propagates training labels to define task direction, reads the same replacement response for the favored class and full class distribution, and averages the resulting ranks. MoGI requires no predictor retraining or learned scoring parameters. Under a shared five-dataset, eight-predictor benchmark, it achieves the largest aggregate held-out loss increase against all five external methods at every tested ranking cutoff.


翻译:暂无翻译

0
下载
关闭预览

相关内容

AAAI2024|场景图知识增强多模态结构化表示能力
专知会员服务
38+阅读 · 2024年1月14日
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
图节点嵌入(Node Embeddings)概述,9页pdf
专知
15+阅读 · 2020年8月22日
WWW 2020 开源论文 | 异构图Transformer
PaperWeekly
13+阅读 · 2020年4月3日
论文浅尝 | 面向时序知识图谱推理的循环事件网络
开放知识图谱
78+阅读 · 2019年9月22日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
世界模型入门:从序贯决策到通用智能体
专知会员服务
1+阅读 · 10月24日
军事域更好使用人工智能的实用指南
专知会员服务
8+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
专知会员服务
13+阅读 · 10月20日
Maven智能系统:帕兰提尔军事人工智能平台详解
专知会员服务
15+阅读 · 10月20日
《测试自动化框架在敏捷软件开发中的角色》
专知会员服务
8+阅读 · 10月20日
俄罗斯如何拦截乌克兰无人机与巡航导弹
专知会员服务
12+阅读 · 10月15日
《武器-目标分配问题:精确与近似求解算法》
专知会员服务
17+阅读 · 10月15日
相关VIP内容
AAAI2024|场景图知识增强多模态结构化表示能力
专知会员服务
38+阅读 · 2024年1月14日
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
相关基金
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员