Algorithms of online platforms are required under the Digital Services Act (DSA) to comply with specific obligations concerning algorithmic transparency, user protection and privacy. To verify compliance with these requirements, DSA mandates platforms to undergo independent audits. Little is known about current auditing practices and their effectiveness in ensuring such compliance. To this end, we bridge regulatory and technical perspectives by critically examining selected audit reports across three critical algorithmic-related provisions: restrictions on profiling minors, transparency in recommender systems, and limitations on targeted advertising using sensitive data. Our analysis shows significant inconsistencies in methodologies and lack of technical depth when evaluating AI-powered systems. To enhance the depth, scale, and independence of compliance assessments, we propose to employ algorithmic auditing -- a process of behavioural assessment of AI algorithms by means of simulating user behaviour, observing algorithm responses and analysing them for audited phenomena.


翻译:根据《数字服务法案》(DSA)要求,在线平台算法须在算法透明度、用户保护与隐私方面履行特定义务。为验证合规情况,DSA强制要求平台接受独立审计。当前审计实践及其确保合规的有效性尚不明确。为此,我们通过批判性审视三个关键算法相关条款(限制未成年人画像分析、推荐系统透明度、基于敏感数据的定向广告限制)的选定审计报告,搭建起监管与技术视角的桥梁。分析表明,现有评估方法在检验人工智能系统时存在显著的方法论不一致与技术深度缺失。为提升合规评估的深度、规模与独立性,我们建议采用算法审计——通过模拟用户行为、观测算法响应并分析受审计现象,对人工智能算法进行行为评估的过程。

0
下载
关闭预览

相关内容

在数学和计算机科学之中,算法(Algorithm)为一个计算的具体步骤,常用于计算、数据处理和自动推理。精确而言,算法是一个表示为有限长列表的有效方法。算法应包含清晰定义的指令用于计算函数。 来自维基百科: 算法
《算法审查与以色列-加沙战争》
专知会员服务
28+阅读 · 2024年4月6日
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
44+阅读 · 2024年1月23日
《信息安全技术 云计算服务安全指南》国家标准意见稿
专知会员服务
33+阅读 · 2022年4月14日
《2021全球数据合规与隐私科技发展报告》重磅发布
专知会员服务
27+阅读 · 2022年1月6日
数据价值释放与隐私保护计算应用研究报告,64页pdf
专知会员服务
42+阅读 · 2021年11月29日
央行发布《人工智能算法金融应用评价规范》,28页pdf
专知会员服务
76+阅读 · 2021年5月2日
专知会员服务
52+阅读 · 2021年4月4日
综述:军事应用中使用的一些重要算法
专知
12+阅读 · 2022年7月3日
美国国会引入《2019年算法责任法案》
蚂蚁金服评论
67+阅读 · 2019年6月13日
【专题】美国司法部更新《企业合规方案评价指引》解析
【专题】美国隐私立法进展的总体分析
蚂蚁金服评论
11+阅读 · 2019年4月25日
综述:Image Caption 任务之语句多样性
PaperWeekly
22+阅读 · 2018年11月30日
SCENE-一个可扩展两层级新闻推荐系统
全球人工智能
11+阅读 · 2018年1月7日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
22+阅读 · 2017年10月24日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
VIP会员
相关资讯
综述:军事应用中使用的一些重要算法
专知
12+阅读 · 2022年7月3日
美国国会引入《2019年算法责任法案》
蚂蚁金服评论
67+阅读 · 2019年6月13日
【专题】美国司法部更新《企业合规方案评价指引》解析
【专题】美国隐私立法进展的总体分析
蚂蚁金服评论
11+阅读 · 2019年4月25日
综述:Image Caption 任务之语句多样性
PaperWeekly
22+阅读 · 2018年11月30日
SCENE-一个可扩展两层级新闻推荐系统
全球人工智能
11+阅读 · 2018年1月7日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
22+阅读 · 2017年10月24日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员