This manuscript investigates channel capacity under mismatched stochastic likelihood decoding. We derive Feinstein- and Verdú-Han-style bounds on the error probability coded communication. These are used to obtain a general information-spectrum formula for the channel capacity under mismatched stochastic decoding. The mismatch capacity formula is expressed as the supremum over all input distribution sequences of the limit inferior in probability of the sequence of normalized mismatched information densities. The resulting capacity formula is the mismatched analog of the channel capacity formula for the matched case by Verdú and Han. We also show that when the sequence of normalized mismatched information densities is uniformly integrable, the capacity formula admits an upper-bound as the limit of the corresponding sequence of expectations. This upper-bound is shown to be achievable for discrete-memoryless channels and product decoding metrics, showing that the Csiszár-Narayan conjecture is tight for mismatched stochastic decoders.


翻译:本文研究了错配随机似然解码下的信道容量。我们推导了编码通信错误概率的Feinstein型和Verdú-Han型界,并利用这些界获得了错配随机解码下信道容量的一般信息谱公式。该错配容量公式表示为所有输入分布序列上概率意义下的归一化错配信息密度序列的下极限的上确界。所得容量公式是Verdú与Han在匹配情形下信道容量公式的错配版本。我们还证明,当归一化错配信息密度序列满足一致可积性时,容量公式存在一个上界,即相应期望序列的极限。这一上界对离散无记忆信道和乘积解码度量是可达的,表明Csiszár-Narayan猜想对于错配随机解码器是紧致的。

0
下载
关闭预览

相关内容

【CVPR2023】DiffCollage:用扩散模型并行生成大量内容
专知会员服务
28+阅读 · 2023年4月4日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
120+阅读 · 2021年3月23日
专知会员服务
33+阅读 · 2021年1月9日
从信息论的角度来理解损失函数
深度学习每日摘要
17+阅读 · 2019年4月7日
简明条件随机场CRF介绍 | 附带纯Keras实现
PaperWeekly
23+阅读 · 2018年5月22日
从香农熵到手推KL散度:一文带你纵览机器学习中的信息论
算法与数学之美
11+阅读 · 2018年1月14日
【直观详解】信息熵、交叉熵和相对熵
机器学习研究会
10+阅读 · 2017年11月7日
绝对干货 | 随机梯度下降算法综述
菜鸟的机器学习
15+阅读 · 2017年10月30日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
精品公开课 | 随机梯度下降算法综述
七月在线实验室
13+阅读 · 2017年7月11日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Arxiv
0+阅读 · 5月1日
Arxiv
0+阅读 · 3月15日
VIP会员
相关主题
最新内容
乌克兰无人机饱和战场中的错误教训
专知会员服务
17+阅读 · 11月17日
面向最后一战术英里:美军无人机创新尝试
专知会员服务
14+阅读 · 11月17日
《美空军2026条令文件:对海压制作战》
专知会员服务
30+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
14+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
专知会员服务
14+阅读 · 11月8日
相关资讯
从信息论的角度来理解损失函数
深度学习每日摘要
17+阅读 · 2019年4月7日
简明条件随机场CRF介绍 | 附带纯Keras实现
PaperWeekly
23+阅读 · 2018年5月22日
从香农熵到手推KL散度:一文带你纵览机器学习中的信息论
算法与数学之美
11+阅读 · 2018年1月14日
【直观详解】信息熵、交叉熵和相对熵
机器学习研究会
10+阅读 · 2017年11月7日
绝对干货 | 随机梯度下降算法综述
菜鸟的机器学习
15+阅读 · 2017年10月30日
从点到线:逻辑回归到条件随机场
夕小瑶的卖萌屋
15+阅读 · 2017年7月22日
精品公开课 | 随机梯度下降算法综述
七月在线实验室
13+阅读 · 2017年7月11日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
Top
微信扫码咨询专知VIP会员