This manuscript investigates channel capacity under mismatched stochastic likelihood decoding. We derive Feinstein- and Verdú-Han-style bounds on the error probability coded communication. These are used to obtain a general information-spectrum formula for the channel capacity under mismatched stochastic decoding. The mismatch capacity formula is expressed as the supremum over all input distribution sequences of the limit inferior in probability of the sequence of normalized mismatched information densities. The resulting capacity formula is the mismatched analog of the channel capacity formula for the matched case by Verdú and Han. We also show that when the sequence of normalized mismatched information densities is uniformly integrable, the capacity formula admits an upper-bound as the limit of the corresponding sequence of expectations. This upper-bound is shown to be achievable for discrete-memoryless channels and product decoding metrics, showing that the Csiszár-Narayan conjecture is tight for mismatched stochastic decoders.


翻译:本文研究了错配随机似然解码下的信道容量。我们推导了编码通信错误概率的Feinstein型和Verdú-Han型界,并利用这些界获得了错配随机解码下信道容量的一般信息谱公式。该错配容量公式表示为所有输入分布序列上概率意义下的归一化错配信息密度序列的下极限的上确界。所得容量公式是Verdú与Han在匹配情形下信道容量公式的错配版本。我们还证明,当归一化错配信息密度序列满足一致可积性时,容量公式存在一个上界,即相应期望序列的极限。这一上界对离散无记忆信道和乘积解码度量是可达的,表明Csiszár-Narayan猜想对于错配随机解码器是紧致的。

0
下载
关闭预览

相关内容

【CVPR2023】DiffCollage:用扩散模型并行生成大量内容
专知会员服务
28+阅读 · 2023年4月4日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
119+阅读 · 2021年3月23日
专知会员服务
33+阅读 · 2021年1月9日
从信息论的角度来理解损失函数
深度学习每日摘要
17+阅读 · 2019年4月7日
简明条件随机场CRF介绍 | 附带纯Keras实现
PaperWeekly
23+阅读 · 2018年5月22日
从香农熵到手推KL散度:一文带你纵览机器学习中的信息论
算法与数学之美
10+阅读 · 2018年1月14日
【直观详解】信息熵、交叉熵和相对熵
机器学习研究会
10+阅读 · 2017年11月7日
绝对干货 | 随机梯度下降算法综述
菜鸟的机器学习
15+阅读 · 2017年10月30日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
精品公开课 | 随机梯度下降算法综述
七月在线实验室
13+阅读 · 2017年7月11日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Arxiv
0+阅读 · 5月1日
Arxiv
0+阅读 · 3月15日
VIP会员
相关主题
最新内容
博士论文 | Riemannian Deep Learning:模块、网络与几何
《同步多无人机系统中的故障与通信》
专知会员服务
2+阅读 · 今天6:23
面向国防作战的最佳自主与蜂群无人机技术
专知会员服务
7+阅读 · 7月28日
《异构人类团队的协作决策过程混合建模研究》
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
6+阅读 · 7月27日
相关资讯
从信息论的角度来理解损失函数
深度学习每日摘要
17+阅读 · 2019年4月7日
简明条件随机场CRF介绍 | 附带纯Keras实现
PaperWeekly
23+阅读 · 2018年5月22日
从香农熵到手推KL散度:一文带你纵览机器学习中的信息论
算法与数学之美
10+阅读 · 2018年1月14日
【直观详解】信息熵、交叉熵和相对熵
机器学习研究会
10+阅读 · 2017年11月7日
绝对干货 | 随机梯度下降算法综述
菜鸟的机器学习
15+阅读 · 2017年10月30日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
精品公开课 | 随机梯度下降算法综述
七月在线实验室
13+阅读 · 2017年7月11日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员