Mobile apps are essential in daily life but frequently employ deceptive patterns, such as visual emphasis or linguistic nudging, to manipulate user behavior. Existing research largely relies on manual detection, which is time-consuming and cannot keep pace with rapidly evolving apps. Although recent work has explored automated approaches, these methods are limited to intra-page patterns, depend on manual app exploration, and lack flexibility. To address these limitations, we present AppRay, a system that integrates task-oriented app exploration with automated deceptive pattern detection to reduce manual effort, expand detection coverage, and improve performance. AppRay operates in two stages. First, it combines large language model-guided task-oriented exploration with random exploration to capture diverse user interface (UI) states. Second, it detects both intra-page and inter-page deceptive patterns using a contrastive learning-based multi-label classifier augmented with a rule-based refiner for context-aware detection. We contribute two datasets, AppRay-Tainted-UIs and AppRay-Benign-UIs, comprising 2,185 deceptive pattern instances, including 149 intra-page cases, spanning 16 types across 876 deceptive and 871 benign UIs, while preserving UI relationships. Experimental results show that AppRay achieves macro/micro averaged precision of 0.92/0.85, recall of 0.86/0.88, and F1 scores of 0.89/0.85, yielding 27.14% to 1200% improvements over prior methods and enabling effective detection of previously unexplored deceptive patterns.


翻译:移动应用在日常生活中不可或缺,但经常采用视觉强调、语言助推等欺骗性模式操纵用户行为。现有研究主要依赖人工检测,耗时且无法跟上应用快速演变的步伐。尽管近期工作已探索自动化方法,但这些方法局限于页面内模式、依赖人工应用探索且缺乏灵活性。为解决这些局限,我们提出AppRay系统,将面向任务的应用探索与自动化欺骗模式检测相结合,以减少人工工作量、扩大检测覆盖率并提升性能。AppRay分两阶段运行:首先,结合大语言模型引导的面向任务探索与随机探索,捕获多样化的用户界面状态;其次,采用基于对比学习的多标签分类器(辅以基于规则的细调器进行上下文感知检测)检测页面内与页面间欺骗模式。我们贡献了两个数据集——AppRay-Tainted-UIs和AppRay-Benign-UIs,包含2185个欺骗模式实例(含149个页面内案例),涵盖876个欺骗性UI与871个良性UI的16种类型,同时保留UI关联关系。实验结果表明,AppRay宏平均/微平均精确率达0.92/0.85,召回率0.86/0.88,F1分数0.89/0.85,相比以往方法提升27.14%至1200%,并能有效检测此前未探索的欺骗模式。

0
下载
关闭预览

相关内容

为小型低能耗的手持设备开发的应用软件。
综述:面向移动端大语言模型的隐私与安全
专知会员服务
19+阅读 · 2025年9月7日
DGP双粒度提示框架:图增强大模型助力欺诈检测
专知会员服务
9+阅读 · 2025年8月17日
基于深度学习的伪装目标检测研究进展
专知会员服务
31+阅读 · 2025年4月12日
2024年移动端AI应用场景研究报告,35页ppt
专知会员服务
30+阅读 · 2025年1月12日
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
45+阅读 · 2024年1月23日
移动互联网应用程序(APP)个人信息保护治理白皮书
专知会员服务
21+阅读 · 2021年11月24日
专知会员服务
22+阅读 · 2021年10月9日
【智能金融】机器学习在反欺诈中应用
产业智能官
35+阅读 · 2019年3月15日
【机器视觉】表面缺陷检测:机器视觉检测技术
产业智能官
25+阅读 · 2018年5月30日
侦测欺诈交易(异常点检测)
GBASE数据工程部数据团队
20+阅读 · 2017年5月10日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
VIP会员
最新内容
美国从乌克兰无人机战争中学习经验
专知会员服务
1+阅读 · 今天15:03
ICML 2026 | 面向视觉语言模型的语义鲁棒性认证
专知会员服务
1+阅读 · 今天14:31
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员