Can a language model read the quality of its ongoing computation, and can an external intervention turn that readout into better outcomes? We test both questions in a frozen 2.6B looped transformer, Ouro-RLTT. On GSM8K, a strict pre-answer probe excludes the answer region and gold value yet predicts success: hidden states plus surface features (length, log-probability) reach AUROC 0.797, versus 0.731 for surface features alone (increment +0.066; task-clustered 95% CI [+0.021, +0.112]; 170 tasks, 680 candidates). On Horizon Logic, the same within-domain comparison gives +0.141 (CI [+0.004, +0.290]; 56 tasks), positive but imprecise. Low-capacity taps also read task-disjoint branch survival and generated-branch correctness, while recurrence moves candidate-quality readability to progressively earlier physical depth. A non-looped control replicates a same-class readout, so recurrence is not required for every readable signal. To test control, we build branch/carry/prune machinery over Ouro's 192-slot recurrent cache, including a bit-exact residual-capture splice that saves up to 88% of per-branch layer passes. No tested frozen intervention produces a validated substantive capability gain. Directional steering is an established negative, and a four-task branch comparison is only a bounded screen. Forced terminal selection beats an exact matched-random null on 39 informative groups, but a selector using no hidden state does as well or better, and malformed-output avoidance explains most of the margin: selection on output form is established, while content-sensitive commitment remains unresolved. A bounded LoRA changes surface behavior without improving net reachability, and a rank-corrected two-null audit does not support the simplest one-dimensional span-misalignment explanation. We call this readable-but-not-yet-usable property operational proto-introspection.


翻译:暂无翻译

0
下载
关闭预览

相关内容

【新书】大语言模型如何工作?200页pdf
专知会员服务
60+阅读 · 2025年6月20日
不可错过!厦大《模式识别》课程,附Slides
专知会员服务
57+阅读 · 2023年6月30日
Effective.Modern.C++ 中英文版,334页pdf
专知
26+阅读 · 2020年11月4日
绝对干货!NLP预训练模型:从transformer到albert
新智元
14+阅读 · 2019年11月10日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
VIP会员
相关主题
最新内容
分层反无人机系统发展新趋势
专知会员服务
9+阅读 · 9月3日
何为协作武器?
专知会员服务
10+阅读 · 9月1日
《理解认知战:超越信息》
专知会员服务
14+阅读 · 9月1日
美国战争部在GenAI.mil上推出OpenAI的ChatGPT Mil
专知会员服务
10+阅读 · 8月31日
人工智能赋能军事维护:重新定义国防战备
专知会员服务
5+阅读 · 8月31日
相关VIP内容
【新书】大语言模型如何工作?200页pdf
专知会员服务
60+阅读 · 2025年6月20日
不可错过!厦大《模式识别》课程,附Slides
专知会员服务
57+阅读 · 2023年6月30日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员