The last decade has witnessed a rapid advancement of generative AI technology that significantly scaled the accessibility of AI-generated non-consensual intimate images (AIG-NCII), a form of image-based sexual abuse that disproportionately harms women and girls. There is a patchwork of commendable efforts across industry, policy, academia, and civil society to address AIG-NCII. However, these efforts lack a shared, consistent mental model that situates the technologies they target within the context of a large, interconnected, and ever-evolving technological ecosystem. As a result, interventions remain siloed and are difficult to evaluate and compare, leading to a reactive cycle of whack-a-mole. We contribute the first comprehensive AIG-NCII technological ecosystem that maps and taxonomizes 11 categories of technologies facilitating the creation, distribution, proliferation and discovery, infrastructural support, and monetization of AIG-NCII. First, we build and visualize the ecosystem through a synthesis of over a hundred primary sources from researchers, journalists, advocates, policymakers, and technologists. Next, we demonstrate how stakeholders can use the ecosystem as a tool to 1) understand new incidents of harm via a case study of Grok and 2) evaluate existing interventions via three more case studies. We conclude with three actionable recommendations, namely that stakeholders should 1) use the ecosystem to map out state, federal, and international laws to produce a clearer policy landscape, 2) collectively develop a database that dynamically tracks the 11 technologies in the ecosystem to better evaluate interventions, and 3) adopt a relational approach to researching AIG-NCII to better understand how the ecosystem technologies interact.


翻译:过去十年见证了生成式AI技术的飞速发展,这极大地提升了AI生成非自愿亲密图像的可及性。这种基于图像的性虐待形式对妇女和女童造成了尤为严重的伤害。目前,产业界、政策制定者、学术界和民间社会已出现一系列值得称赞的应对AIG-NCII的努力。然而,这些努力缺乏一个共享、一致的心智模型,未能将所针对的技术置于一个庞大、相互关联且不断演进的技术生态系统背景下进行考量。因此,干预措施仍处于孤立状态,难以评估和比较,导致陷入被动应对的“打地鼠”循环。我们首次提出了一个全面的AIG-NCII技术生态系统,该体系绘制并分类了助长AIG-NCII的创建、分发、传播与发现、基础设施支持以及货币化的11类技术。首先,我们通过综合来自研究人员、记者、倡导者、政策制定者和技术专家的上百份一手资料,构建并可视化了该生态系统。接着,我们通过案例研究展示了利益相关方如何利用该生态系统作为工具:1)通过Grok的案例研究理解新的伤害事件;2)通过另外三个案例研究评估现有干预措施。最后,我们提出了三项可操作的建议:利益相关方应1)利用该生态系统梳理州、联邦及国际法律,以描绘更清晰的政策图景;2)共同开发一个动态追踪生态系统中11类技术的数据库,以更好地评估干预措施;3)采用关系性研究方法探究AIG-NCII,以更好地理解生态系统内各项技术如何相互作用。

0
下载
关闭预览

相关内容

面向 AI 生成图像的安全与鲁棒水印:全面综述
专知会员服务
14+阅读 · 2025年10月6日
《人工智能:生成式AI的环境与人文影响》最新47页报告
专知会员服务
16+阅读 · 2025年7月15日
生成式人工智能,40页pdf
专知会员服务
104+阅读 · 2023年8月19日
2023年全球生成式AI产业研究报告+产业图谱(33页ppt)
专知会员服务
112+阅读 · 2023年5月31日
【学界】 李飞飞学生最新论文:利用场景图生成图像
GAN生成式对抗网络
15+阅读 · 2018年4月9日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
相关资讯
【学界】 李飞飞学生最新论文:利用场景图生成图像
GAN生成式对抗网络
15+阅读 · 2018年4月9日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员