The interoperability of data and intelligence across allied partners and their respective end-user groups is considered a foundational enabler of the collective defense capability -- both conventional and hybrid -- of NATO countries. Foreign Information Manipulation and Interference (FIMI) and related hybrid activities are conducted across various societal dimensions and infospheres, posing an ever greater challenge to threat characterization, sustained situational awareness, and response coordination. Recent advances in AI have further reduced the cost of AI-augmented trolling and interference activities, such as through the generation and amplification of manipulative content. Despite the introduction of the DISARM framework as a standardized metadata and analytical framework for FIMI, operationalizing it at the scale of social media remains a challenge. We propose a framework-agnostic, agent-based operationalization of DISARM to investigate FIMI on social media. We develop an agent coordination pipeline in which specialized agentic AI components collaboratively (1) detect candidate manipulative behaviors and (2) map these behaviors onto standard DISARM taxonomies in a transparent manner. We evaluate the approach on two real-world datasets annotated by domain practitioners. Our results show that the approach is effective in scaling the predominantly manual and heavily interpretive work of FIMI analysis -- including uncovering more than 30 previously undetected Russian bot accounts during manual analysis -- and provides a direct contribution to enhancing situational awareness and data interoperability in the context of operating in media- and information-rich settings.


翻译:数据与情报在盟国伙伴及其各自终端用户群体间的互操作性,被视为北约国家集体防御能力(包括常规与混合防御)的基础赋能要素。外国信息操纵与干预(FIMI)及相关混合活动在多个社会维度和信息空间展开,对威胁特征刻画、持续态势感知及响应协调构成日益严峻的挑战。人工智能的最新进展进一步降低了AI增强型网络煽动与干预活动的成本,例如通过生成和放大操纵性内容。尽管DISARM框架已作为FIMI标准化元数据与分析框架被引入,但在社交媒体规模上实现其操作化仍面临困难。我们提出一种与框架无关、基于智能体的DISARM操作化方法,用于调查社交媒体上的FIMI活动。我们开发了一套智能体协同流程,其中专业化的智能体AI组件通过协作:(1)检测潜在的操纵行为;(2)以透明方式将这些行为映射至标准DISARM分类体系。我们在两个由领域专家标注的真实数据集上对该方法进行评估。结果表明,该方法能有效扩展目前以人工为主且高度依赖解读的FIMI分析工作——包括在人工分析过程中发现30余个先前未检测到的俄罗斯机器人账号——并为提升媒体与信息密集环境下的态势感知能力和数据互操作性做出直接贡献。

0
下载
关闭预览

相关内容

人工智能如何增强军事监控与边境安全
专知会员服务
20+阅读 · 2025年3月20日
精确打击体系智能化的发展
专知会员服务
77+阅读 · 2024年2月3日
GSMA:人工智能赋能安全应用案例集,114页pdf
专知会员服务
68+阅读 · 2021年3月16日
人工智能技术在军事领域的应用思考
专知
45+阅读 · 2022年6月11日
【知识图谱】知识图谱+人工智能=新型网络信息体系
产业智能官
14+阅读 · 2018年11月18日
智能时代如何构建金融反欺诈体系?
数据猿
12+阅读 · 2018年3月26日
CCCF专栏文章:人机共融智能
中国计算机学会
15+阅读 · 2017年12月21日
国家自然科学基金
333+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
18+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
38+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
最新内容
非对称优势:美海军开发低成本反无人机技术
专知会员服务
3+阅读 · 今天4:39
《美战争部小企业创新研究(SBIR)计划》
专知会员服务
4+阅读 · 今天2:48
《军事模拟:将军事条令与目标融入AI智能体》
专知会员服务
7+阅读 · 今天2:43
【NTU博士论文】3D人体动作生成
专知会员服务
6+阅读 · 4月24日
以色列军事技术对美国军力发展的持续性赋能
专知会员服务
8+阅读 · 4月24日
《深度强化学习在兵棋推演中的应用》40页报告
专知会员服务
12+阅读 · 4月24日
《多域作战面临复杂现实》
专知会员服务
9+阅读 · 4月24日
《印度的多域作战:条令与能力发展》报告
专知会员服务
4+阅读 · 4月24日
相关基金
国家自然科学基金
333+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
18+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
国家自然科学基金
38+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员