We argue that governments should mandate a three-tier anonymity framework on social-media platforms as a reactionary measure prompted by the ease-of-production of deepfakes and large-language-model-driven misinformation. The tiers are determined by a given user's $\textit{reach score}$: Tier 1 permits full pseudonymity for smaller accounts, preserving everyday privacy; Tier 2 requires private legal-identity linkage for accounts with some influence, reinstating real-world accountability at moderate reach; Tier 3 would require per-post, independent, ML-assisted fact-checking, review for accounts that would traditionally be classed as sources-of-mass-information. An analysis of Reddit shows volunteer moderators converge on comparable gates as audience size increases - karma thresholds, approval queues, and identity proofs - demonstrating operational feasibility and social legitimacy. Acknowledging that existing engagement incentives deter voluntary adoption, we outline a regulatory pathway that adapts existing US jurisprudence and recent EU-UK safety statutes to embed reach-proportional identity checks into existing platform tooling, thereby curbing large-scale misinformation while preserving everyday privacy.


翻译:我们认为,鉴于深度伪造和大语言模型驱动的虚假信息易于制作,政府应强制要求社交媒体平台实施三层匿名框架作为应对措施。分层标准由用户的$\textit{传播力评分}$决定:第一层允许影响力较小的账户完全使用化名,以保护日常隐私;第二层要求具有一定影响力的账户进行私人法律身份关联,在中等传播范围内恢复现实世界的责任归属;第三层则要求传统上被归类为大规模信息源的账户,对其每篇发布内容进行独立的机器学习辅助事实核查与审查。对Reddit的分析表明,随着受众规模扩大,志愿版主会采用类似的门槛机制——如业力值阈值、审核队列和身份验证——这证明了该框架的操作可行性与社会合理性。我们承认现有平台参与激励机制阻碍了自愿采纳,因此提出一条监管路径:通过调整美国现有判例法及近期欧盟与英国的安全法规,将基于传播力的身份核查机制嵌入现有平台工具中,从而在保护日常隐私的同时遏制大规模虚假信息传播。

0
下载
关闭预览

相关内容

《深度伪造——错误信息、宣传战与信息战》最新报告
专知会员服务
28+阅读 · 2025年7月10日
《网络战中的深度伪造: 威胁、检测、技术和对策》
专知会员服务
47+阅读 · 2023年11月22日
基于多模态学习的虚假新闻检测研究
专知会员服务
34+阅读 · 2023年9月8日
专知会员服务
14+阅读 · 2021年9月14日
专知会员服务
12+阅读 · 2021年9月10日
专知会员服务
28+阅读 · 2021年8月15日
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
面向新闻媒体的命名实体识别技术
PaperWeekly
18+阅读 · 2019年4月17日
I2P - 适用于黑客的Android应用程序
黑白之道
38+阅读 · 2019年3月6日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
差分隐私保护:从入门到脱坑
FreeBuf
17+阅读 · 2018年9月10日
揭秘AI识别虚假新闻背后的原理
DeepTech深科技
10+阅读 · 2018年8月5日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
VIP会员
相关VIP内容
《深度伪造——错误信息、宣传战与信息战》最新报告
专知会员服务
28+阅读 · 2025年7月10日
《网络战中的深度伪造: 威胁、检测、技术和对策》
专知会员服务
47+阅读 · 2023年11月22日
基于多模态学习的虚假新闻检测研究
专知会员服务
34+阅读 · 2023年9月8日
专知会员服务
14+阅读 · 2021年9月14日
专知会员服务
12+阅读 · 2021年9月10日
专知会员服务
28+阅读 · 2021年8月15日
相关资讯
深度伪造与检测技术综述(中文版),25页pdf
专知
13+阅读 · 2020年12月12日
面向新闻媒体的命名实体识别技术
PaperWeekly
18+阅读 · 2019年4月17日
I2P - 适用于黑客的Android应用程序
黑白之道
38+阅读 · 2019年3月6日
热点! 虚假新闻检测综述
专知
111+阅读 · 2019年2月26日
差分隐私保护:从入门到脱坑
FreeBuf
17+阅读 · 2018年9月10日
揭秘AI识别虚假新闻背后的原理
DeepTech深科技
10+阅读 · 2018年8月5日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员