Online video games have become major online social spaces where users interact, compete, and create together. These spaces, however, expose users to a wide spectrum of online harms, including harassment, discrimination, inappropriate content, privacy breach, cheating, and more. The shape and severity of such harms vary across game design, mechanics, and community context. To mitigate these harms, game companies issue Codes of Conduct (CoCs) that articulate online safety rules and direct players to safety resources. However, it remains unclear how prevalent CoCs are, what safety, security and privacy violations they govern, and whether they meet growing regulatory and industry expectations. We develop and leverage CONDUCTIFY, a pipeline for identifying and analyzing CoCs at scale. Applied to Steam, the largest PC game marketplace, it located the available CoCs for 350 of the 9,586 multiplayer titles on Steam. We found that CoCs are more available among popular, adult-oriented, and community-driven games, while most multiplayer games operate without CoCs despite regulatory and industry recommendations. Although over 80% of the games with CoCs available consistently address traditional security and safety violations, their governance approaches vary substantially across types of violations. A further asymmetry emerges in specificity. Compared with harms related to gameplay mechanics, the articulations of interpersonal harm and the underage player safety are often less specific, despite their relevance to many game communities. Together, these results inform the improvement of online safety governance and CoC enforcement practices, and building better safety infrastructure for the community of players and developers.


翻译:在线视频游戏已成为用户互动、竞争和共同创作的主要在线社交空间。然而,这些空间使用户面临广泛的网络伤害,包括骚扰、歧视、不当内容、隐私泄露、作弊等。此类伤害的形式和严重程度因游戏设计、机制和社区背景而异。为减轻这些伤害,游戏公司发布《行为准则》(CoCs),阐述网络安全规则并引导玩家获取安全资源。然而,目前尚不清楚《行为准则》的普及程度、它们所管辖的安全、安保与隐私违规行为,以及它们是否满足日益增长的监管和行业期望。我们开发并利用CONDUCTIFY——一个可大规模识别和分析《行为准则》的流水线。将其应用于最大的PC游戏市场Steam,在Steam上的9,586款多人游戏中,它定位了其中350款游戏的可用《行为准则》。我们发现,《行为准则》在热门、成人向及社区驱动的游戏中更为普及,而大多数多人游戏尽管有监管和行业建议,却未配备《行为准则》。尽管超过80%拥有《行为准则》的游戏一致地处理传统安保与安全违规行为,但其治理方法在不同违规类型间差异显著。进一步在具体性上出现不对称。与游戏玩法机制相关的伤害相比,对人际伤害和未成年人玩家安全的表述往往不够具体,尽管它们与许多游戏社区密切相关。这些结果共同为改进网络安全治理和《行为准则》执行实践,以及为玩家和开发者社区构建更好的安全基础设施提供了参考。

0
下载
关闭预览

相关内容

探索大型语言模型在网络安全中的作用:一项系统综述
专知会员服务
22+阅读 · 2025年4月27日
俄乌战争信息操纵中的网络攻击策略分析
专知会员服务
22+阅读 · 2025年3月15日
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
45+阅读 · 2024年1月23日
专知会员服务
12+阅读 · 2021年9月10日
云游戏行业发展趋势分析报告
行业研究报告
13+阅读 · 2019年3月24日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Arxiv
0+阅读 · 6月2日
VIP会员
最新内容
驱动军事决策变革的顶尖人工智能指挥系统
专知会员服务
3+阅读 · 今天13:50
非对称防御中的自组织临界性:俄乌战争
专知会员服务
9+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
11+阅读 · 8月10日
《边缘计算关键技术分析及美军作战实践应用》
边缘计算的军事应用
专知会员服务
11+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
13+阅读 · 8月8日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
20+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员