Targeted data poisoning attacks manipulate model predictions on specific test samples by injecting malicious data into training. Yet existing evaluations report average attack success rates over randomly selected targets, obscuring true worst-case effectiveness. We argue that the right evaluation focuses on the hardest samples to poison. The same reasoning applies to defense: since targeted attacks leave no footprint at the distribution level, defenders should proactively identify the most vulnerable samples and apply targeted countermeasures. Given a test dataset, this paper identifies both the easiest and hardest to poison examples based on only clean model information. Specifically, we offer coarse evaluations using clean training dynamics, and fine-grained classification on poison class using poison distances and budgets. Our experiments show these metrics reliably stratify samples by poisoning vulnerability, enabling both rigorous worst-case evaluation and proactive vulnerability-aware defense.


翻译:目标投毒攻击通过向训练数据中注入恶意样本,操纵模型对特定测试样本的预测。然而,现有评估通常报告随机选取目标上的平均攻击成功率,这掩盖了真实的最坏情况效果。我们认为,正确的评估应聚焦于最难投毒的样本。同理适用于防御:由于目标攻击在分布层面未留下痕迹,防御者应主动识别最脆弱的样本,并采取针对性反制措施。针对给定测试数据集,本文仅利用干净模型信息,识别出最易与最难投毒的样本。具体而言,我们利用干净训练动态提供粗略评估,并基于投毒距离与预算对投毒类别进行细粒度分类。实验表明,这些指标能可靠地根据投毒脆弱性对样本进行分层,从而支持严谨的最坏情况评估与主动的脆弱性感知防御。

0
下载
关闭预览

相关内容

中文版 | 数据投毒:AI驱动战争中优势地位的隐蔽武器
基于深度学习的伪装目标检测研究进展
专知会员服务
32+阅读 · 2025年4月12日
深度学习中的数据投毒:综述
专知会员服务
30+阅读 · 2025年4月1日
专知会员服务
68+阅读 · 2021年1月10日
专知会员服务
57+阅读 · 2020年12月28日
干货 | 基于深度学习的目标检测算法综述(二)
AI科技评论
21+阅读 · 2018年8月20日
原创 | Attention Modeling for Targeted Sentiment
黑龙江大学自然语言处理实验室
25+阅读 · 2017年11月5日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
VIP会员
最新内容
印度精确打击与指挥架构的断层
专知会员服务
4+阅读 · 7月20日
美空军AI完成F-16战斗机自主空战历史性试飞
专知会员服务
6+阅读 · 7月20日
深入Project Maven:为何人工智能在战场上依然失灵
锻造未来士兵:外骨骼、基因工程与赛博格
专知会员服务
7+阅读 · 7月19日
《无人机蜂群通信技术研究》50页
专知会员服务
10+阅读 · 7月19日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
75+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员