The interoperability of data and intelligence across allied partners and their respective end-user groups is considered a foundational enabler to the collective defense capability--both conventional and hybrid--of NATO countries. Foreign Information Manipulation and Interference (FIMI) and related hybrid activities are conducted across various societal dimensions and infospheres, posing an ever greater challenge to the characterization of threats, sustaining situational awareness, and response coordination. Recent advances in AI have further led to the decreasing cost of AI-augmented trolling and interference activities, such as through the generation and amplification of manipulative content. Despite the introduction of the DISARM framework as a standardized metadata and analytical framework for FIMI, operationalizing it at the scale of social media remains a challenge. We propose a framework-agnostic agent-based operationalization of DISARM to investigate FIMI on social media. We develop a multi-agent pipeline in which specialized agentic AI components collaboratively (1) detect candidate manipulative behaviors, and (2) map these behaviors onto standard DISARM taxonomies in a transparent manner. We evaluated the approach on two real-world datasets annotated by domain practitioners. We demonstrate that our approach is effective in scaling the predominantly manual and heavily interpretive work of FIMI analysis, providing a direct contribution to enhancing the situational awareness and data interoperability in the context of operating in media and information-rich settings.


翻译:数据和情报在盟国伙伴及其各自终端用户群体间的互操作性,被视为北约国家集体防御能力(包括常规与混合防御)的基础性赋能要素。外国信息操纵与干扰(FIMI)及相关混合活动在多个社会维度和信息空间中展开,对威胁特征刻画、态势感知维持及响应协调构成了日益严峻的挑战。人工智能的最新进展进一步降低了AI增强型网络水军及干扰活动的成本,例如通过生成和放大操纵性内容。尽管DISARM框架作为FIMI标准化元数据与分析框架已被引入,但在社交媒体规模上实现其操作化仍面临困难。我们提出一种与框架无关的、基于智能体的DISARM操作化方法,以调查社交媒体上的FIMI活动。我们开发了一个多智能体流水线,其中专业化的智能体AI组件通过协作方式:(1)检测候选操纵行为,(2)以透明化方式将这些行为映射至标准DISARM分类体系。我们在两个由领域专家标注的真实数据集上对该方法进行了评估。结果表明,我们的方法能有效扩展当前以人工为主且高度依赖解读的FIMI分析工作,为提升在媒体与信息密集环境中的态势感知及数据互操作性提供了直接贡献。

0
下载
关闭预览

相关内容

认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
13+阅读 · 2025年8月16日
精确打击体系智能化的发展
专知会员服务
80+阅读 · 2024年1月15日
美军信息安全领域作战能力发展研究
专知会员服务
98+阅读 · 2023年8月7日
人工智能技术在军事领域的应用思考
专知
45+阅读 · 2022年6月11日
国外有人/无人平台协同作战概述
无人机
122+阅读 · 2019年5月28日
【知识图谱】知识图谱+人工智能=新型网络信息体系
产业智能官
14+阅读 · 2018年11月18日
警务云情报分析研判平台解决方案(ppt)
智能交通技术
17+阅读 · 2018年3月18日
国家自然科学基金
331+阅读 · 2017年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
56+阅读 · 2014年12月31日
国家自然科学基金
38+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
VIP会员
相关VIP内容
认知优势:人工智能在国家安全决策中的核心作用
专知会员服务
13+阅读 · 2025年8月16日
精确打击体系智能化的发展
专知会员服务
80+阅读 · 2024年1月15日
美军信息安全领域作战能力发展研究
专知会员服务
98+阅读 · 2023年8月7日
相关基金
国家自然科学基金
331+阅读 · 2017年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
56+阅读 · 2014年12月31日
国家自然科学基金
38+阅读 · 2013年12月31日
国家自然科学基金
21+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员