The paper studies the existence of \emph{polynomial} measures of dependence between two random variables: polynomial functions of the joint distribution that (i) vanish on independence and (ii) cannot increase under post-processing of either variable (the data processing inequality, DPI). Mutual information satisfies both properties but is transcendental in the joint distribution, making it impossible to estimate without bias from finitely many samples. A polynomial alternative would admit an exact finite-sample unbiased estimator, with the polynomial degree controlling the required sample size. The main result is negative: in the asymmetric setting where the variables have different alphabet sizes (\(|X| > |Y|\)), no nonzero polynomial can simultaneously satisfy DPI on the larger-alphabet side and vanish on independence. In the symmetric case \(|X| = |Y| = n\), we establish a structural result: every such polynomial is divisible by \((\det U)^2\), where \(U\) denotes the \(n \times n\) joint distribution matrix. Consequently, any nontrivial candidate must have degree at least \(2n\). The determinant-based mutual information attains this lower bound. These algebraic results have direct consequences for \emph{multi-task peer prediction}, a mechanism-design problem in which a principal incentivizes honest reports from agents who observe correlated signals but no ground truth. Every such mechanism running on \(\ell\) independent tasks gives rise to a polynomial measure of dependence of degree at most \(\ell\), so our lower bounds on polynomial degree translate directly into lower bounds on the number of tasks: in the asymmetric case no finite-task mechanism exists on the larger-alphabet side at all, while the symmetric case requires at least \(\ell \geq 2n\) tasks.


翻译:暂无翻译

0
下载
关闭预览

相关内容

《计算机信息》杂志发表高质量的论文,扩大了运筹学和计算的范围,寻求有关理论、方法、实验、系统和应用方面的原创研究论文、新颖的调查和教程论文,以及描述新的和有用的软件工具的论文。官网链接:https://pubsonline.informs.org/journal/ijoc
【匹兹堡大学博士论文】数据限制下的因果推理,147页pdf
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
基于深度元学习的因果推断新方法
图与推荐
12+阅读 · 2020年7月21日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Arxiv
0+阅读 · 6月11日
Arxiv
0+阅读 · 5月29日
Arxiv
0+阅读 · 5月29日
Arxiv
0+阅读 · 5月25日
VIP会员
最新内容
《通过小型无人机系统将情报能力“作战化”》
专知会员服务
1+阅读 · 今天7:28
消耗优势:美军的“精确规模化”概念
专知会员服务
7+阅读 · 6月15日
《离线语言支持系统:面向空战战术决策》
专知会员服务
8+阅读 · 6月15日
俄乌战场地面机器人如何改写战争规则
专知会员服务
9+阅读 · 6月14日
相关VIP内容
【匹兹堡大学博士论文】数据限制下的因果推理,147页pdf
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
相关资讯
基于深度元学习的因果推断新方法
图与推荐
12+阅读 · 2020年7月21日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员