Sparse autoencoders (SAEs) decompose language model activations into interpretable features, but existing methods reveal only which features activate, not which change model outputs when amplified. We introduce Control Reinforcement Learning (CRL), which trains a policy to select SAE features for steering at each token, producing interpretable intervention logs: the learned policy identifies features that change model outputs when amplified. Adaptive Feature Masking encourages diverse feature discovery while preserving singlefeature interpretability. The framework yields new analysis capabilities: branch point tracking locates tokens where feature choice determines output correctness; critic trajectory analysis separates policy limitations from value estimation errors; layer-wise comparison reveals syntactic features in early layers and semantic features in later layers. On Gemma-2 2B across MMLU, BBQ, GSM8K, HarmBench, and XSTest, CRL achieves improvements while providing per-token intervention logs. These results establish learned feature steering as a mechanistic interpretability tool that complements static feature analysis with dynamic intervention probes


翻译:稀疏自编码器(SAE)将语言模型激活分解为可解释特征,但现有方法仅揭示哪些特征被激活,而未揭示哪些特征在放大时会改变模型输出。我们提出控制强化学习(CRL),该方法训练一个策略以在每个令牌处选择SAE特征进行导向,并生成可解释的干预日志:学习到的策略识别出在放大时会改变模型输出的特征。自适应特征掩码在保持单特征可解释性的同时鼓励多样化特征发现。该框架提供了新的分析能力:分支点追踪定位特征选择决定输出正确性的令牌;评论家轨迹分析将策略限制与价值估计误差分离;分层比较揭示早期层中的句法特征和后期层中的语义特征。在Gemma-2 2B模型上,跨MMLU、BBQ、GSM8K、HarmBench和XSTest基准测试,CRL在提供每令牌干预日志的同时实现了性能提升。这些结果确立了学习特征导向作为一种机制可解释性工具,通过动态干预探针补充了静态特征分析。

0
下载
关闭预览

相关内容

面向软件工程的强化学习综述
专知会员服务
30+阅读 · 2025年7月21日
《可解释深度强化学习综述》
专知会员服务
40+阅读 · 2025年2月12日
基于模型的强化学习综述
专知会员服务
48+阅读 · 2023年1月9日
可解释强化学习,Explainable Reinforcement Learning: A Survey
专知会员服务
132+阅读 · 2020年5月14日
【综述】自动驾驶领域中的强化学习,附18页论文下载
专知会员服务
176+阅读 · 2020年2月8日
基于模型的强化学习综述
专知
42+阅读 · 2022年7月13日
强化学习《奖励函数设计: Reward Shaping》详细解读
深度强化学习实验室
18+阅读 · 2020年9月1日
TensorFlow 2.0深度强化学习指南
云栖社区
18+阅读 · 2019年2月1日
【强化学习】强化学习+深度学习=人工智能
产业智能官
55+阅读 · 2017年8月11日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2月15日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
42+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员