We introduce an unsupervised visual representation learning system based entirely on local plasticity rules, without labels, backpropagation, or global error signals. The model is a VisNet-inspired hierarchical architecture combining opponent color inputs, multi-frequency Gabor and wavelet feature streams, competitive normalization with lateral inhibition, saliency modulation, associative memory, and a feedback loop. All representation learning occurs through continuous local plasticity applied to unlabeled image streams over 300 epochs. Performance is evaluated using a fixed linear probe trained only at readout time. The system achieves 80.1 percent accuracy on CIFAR-10 and 47.6 percent on CIFAR-100, improving over a Hebbian-only baseline. Ablation studies show that anti-Hebbian decorrelation, free-energy inspired plasticity, and associative memory are the main contributors, with strong synergistic effects. Even without learning, the fixed architecture alone reaches 61.4 percent on CIFAR-10, indicating that plasticity, not only inductive bias, drives most of the performance. Control analyses show that independently trained probes match co-trained ones within 0.3 percentage points, and a nearest-class-mean classifier achieves 78.3 percent without gradient-based training, confirming the intrinsic structure of the learned features. Overall, the system narrows but does not eliminate the performance gap to backpropagation-trained CNNs (5.7 percentage points on CIFAR-10, 7.5 percentage points on CIFAR-100), demonstrating that structured local plasticity alone can learn strong visual representations from raw unlabeled data.


翻译:我们提出了一种完全基于局部可塑性规则的无监督视觉表征学习系统,该系统无需标签、反向传播或全局误差信号。模型采用受VisNet启发的层级架构,融合了对手色输入、多频率Gabor与小波特征流、侧抑制竞争归一化、显著性调制、联想记忆及反馈回路。所有表征学习均通过连续局部可塑性机制在300个训练周期内对未标注图像流进行。性能评估采用仅在读出阶段训练的固定线性探针。该系统在CIFAR-10上达到80.1%的准确率,在CIFAR-100上达到47.6%,优于纯Hebbian基线。消融研究表明反Hebbian去相关、自由能启发可塑性与联想记忆是主要贡献因素,且具有强协同效应。即使不进行学习,固定架构本身在CIFAR-10上即可达到61.4%的准确率,表明可塑性(而非仅归纳偏置)驱动了大部分性能提升。对照分析显示独立训练的探针与协同训练的探针结果相差在0.3个百分点以内,而无需梯度训练的最近类均值分类器即达78.3%的准确率,证实了学习特征的内在结构性。总体而言,该系统缩小了但与反向传播训练的CNN仍存在性能差距(CIFAR-10差距5.7个百分点,CIFAR-100差距7.5个百分点),证明仅凭结构化局部可塑性即可从未标注原始数据中学习到强视觉表征。

0
下载
关闭预览

相关内容

【NeurIPS2022】VICRegL:局部视觉特征的自监督学习
专知会员服务
32+阅读 · 2022年10月6日
【清华大学鲁继文副教授】无监督视觉表征学习
专知会员服务
28+阅读 · 2022年3月17日
多模态视觉语言表征学习研究综述
专知
27+阅读 · 2020年12月3日
对ResNet本质的一些思考
极市平台
26+阅读 · 2019年4月27日
总结-空洞卷积(Dilated/Atrous Convolution)
极市平台
41+阅读 · 2019年2月25日
【AAAI专题】论文分享:以生物可塑性为核心的类脑脉冲神经网络
中国科学院自动化研究所
15+阅读 · 2018年1月23日
【推荐】ResNet, AlexNet, VGG, Inception:各种卷积网络架构的理解
机器学习研究会
20+阅读 · 2017年12月17日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
综述 | 从问答到任务完成:Agent系统与Harness设计
Agentic RL:框架、实践与长程智能体训练
专知会员服务
2+阅读 · 6月24日
重新思考无人机时代的生存能力
专知会员服务
6+阅读 · 6月24日
装甲突击旅:现代战争思考、战斗与组织
专知会员服务
5+阅读 · 6月24日
在人工智能加速决策环境中拓展OODA循环
专知会员服务
5+阅读 · 6月24日
军事欺骗:供作战战术指挥官使用的工具
专知会员服务
5+阅读 · 6月24日
综述 | 世界动作模型:少做梦,多行动
专知会员服务
7+阅读 · 6月23日
美以伊冲突:无人机与人工智能的运用
专知会员服务
10+阅读 · 6月23日
《特种部队在透明战场中的生存力》最新报告
专知会员服务
5+阅读 · 6月23日
相关VIP内容
【NeurIPS2022】VICRegL:局部视觉特征的自监督学习
专知会员服务
32+阅读 · 2022年10月6日
【清华大学鲁继文副教授】无监督视觉表征学习
专知会员服务
28+阅读 · 2022年3月17日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员