The proliferation of online hate speech poses a significant threat to the harmony of the web. While explicit hate is easily recognized through overt slurs, implicit hate speech is often conveyed through sarcasm, irony, stereotypes, or coded language -- making it harder to detect. Existing hate speech detection models, which predominantly rely on surface-level linguistic cues, fail to generalize effectively across diverse stylistic variations. Moreover, hate speech spread on different platforms often targets distinct groups and adopts unique styles, potentially inducing spurious correlations between them and labels, further challenging current detection approaches. Motivated by these observations, we hypothesize that the generation of hate speech can be modeled as a causal graph involving key factors: contextual environment, creator motivation, target, and style. Guided by this graph, we propose CADET, a causal representation learning framework that disentangles hate speech into interpretable latent factors and then controls confounders, thereby isolating genuine hate intent from superficial linguistic cues. Furthermore, CADET allows counterfactual reasoning by intervening on style within the latent space, naturally guiding the model to robustly identify hate speech in varying forms. CADET demonstrates superior performance in comprehensive experiments, highlighting the potential of causal priors in advancing generalizable hate speech detection.


翻译:在线仇恨言论的激增对网络和谐构成重大威胁。虽然显性仇恨可通过公开的侮辱性语言轻易识别,但隐性仇恨言论往往通过讽刺、反讽、刻板印象或隐晦语言传达——这使得其更难被检测。现有的仇恨言论检测模型主要依赖表层语言线索,无法有效泛化至多样化的风格变体。此外,不同平台传播的仇恨言论通常针对不同群体并采用独特风格,可能诱导其与标签间的虚假关联,进一步挑战现有检测方法。基于这些观察,我们假设仇恨言论的生成可建模为包含关键因素的因果图:语境环境、创作者动机、目标对象和表达风格。在此图引导下,我们提出CADET——一种因果表征学习框架,其将仇恨言论解耦为可解释的潜在因子,进而控制混杂变量,从而将真实的仇恨意图从表层语言线索中分离出来。此外,CADET支持通过对潜在空间中的风格进行干预来实现反事实推理,自然引导模型鲁棒地识别不同形式的仇恨言论。综合实验表明CADET具有优越性能,凸显了因果先验在推进可泛化仇恨言论检测方面的潜力。

0
下载
关闭预览

相关内容

大型语言模型中隐性与显性偏见的综合研究
专知会员服务
16+阅读 · 2025年11月25日
《利用大型语言模型检测社交平台上的网络欺凌行为》
专知会员服务
44+阅读 · 2024年1月23日
【博士论文】学习表征以检测新颖性和异常性,72页pdf
专知会员服务
19+阅读 · 2023年9月30日
专知会员服务
21+阅读 · 2021年6月27日
因果关联学习,Causal Relational Learning
专知会员服务
185+阅读 · 2020年4月21日
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
用深度学习揭示数据的因果关系
专知
28+阅读 · 2019年5月18日
论文浅尝 | 基于局内去噪和迁移学习的关系抽取
开放知识图谱
16+阅读 · 2018年12月2日
网络表示学习介绍
人工智能前沿讲习班
18+阅读 · 2018年11月26日
相关性≠因果:概率图模型和do-calculus
论智
31+阅读 · 2018年10月29日
【学界】融合对抗学习的因果关系抽取
GAN生成式对抗网络
15+阅读 · 2018年7月14日
关系推理:基于表示学习和语义要素
计算机研究与发展
19+阅读 · 2017年8月22日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
VIP会员
相关资讯
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
21+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员