简介:互信息(Mutual Information)是信息论里一种有用的信息度量,它可以看成是一个随机变量中包含的关于另一个随机变量的信息量,或者说是一个随机变量由于已知另一个随机变量而减少的不肯定性.本教程中运用深度最大化信息的方法来对输入的图片和它的表示有一个很好的表征学习。针对互信息的精准计算、最大化整个图像输入和输出表示之间的互信息等问题都提出了合理的解决方案。

成为VIP会员查看完整内容
26

相关内容

自监督学习(self-supervised learning)可以被看作是机器学习的一种“理想状态”,模型直接从无标签数据中自行学习,无需标注数据。
【牛津大学&DeepMind】自监督学习教程,141页ppt
专知会员服务
182+阅读 · 2020年5月29日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
167+阅读 · 2020年3月18日
半监督多任务学习:Semisupervised Multitask Learning
我爱读PAMI
18+阅读 · 2018年4月29日
A Survey on Bayesian Deep Learning
Arxiv
64+阅读 · 2020年7月2日
Continual Unsupervised Representation Learning
Arxiv
7+阅读 · 2019年10月31日
Arxiv
53+阅读 · 2018年12月11日
VIP会员
相关论文
A Survey on Bayesian Deep Learning
Arxiv
64+阅读 · 2020年7月2日
Continual Unsupervised Representation Learning
Arxiv
7+阅读 · 2019年10月31日
Arxiv
53+阅读 · 2018年12月11日
微信扫码咨询专知VIP会员