The paper studies the existence of \emph{polynomial} measures of dependence between two random variables: polynomial functions of the joint distribution that (i) vanish on independence and (ii) cannot increase under post-processing of either variable (the data processing inequality, DPI). Mutual information satisfies both properties but is transcendental in the joint distribution, making it impossible to estimate without bias from finitely many samples. A polynomial alternative would admit an exact finite-sample unbiased estimator, with the polynomial degree controlling the required sample size. The main result is negative: in the asymmetric setting where the variables have different alphabet sizes (\(|X| > |Y|\)), no nonzero polynomial can simultaneously satisfy DPI on the larger-alphabet side and vanish on independence. In the symmetric case \(|X| = |Y| = n\), we establish a structural result: every such polynomial is divisible by \((\det U)^2\), where \(U\) denotes the \(n \times n\) joint distribution matrix. Consequently, any nontrivial candidate must have degree at least \(2n\). The determinant-based mutual information attains this lower bound. These algebraic results have direct consequences for \emph{multi-task peer prediction}, a mechanism-design problem in which a principal incentivizes honest reports from agents who observe correlated signals but no ground truth. Every such mechanism running on \(\ell\) independent tasks gives rise to a polynomial measure of dependence of degree at most \(\ell\), so our lower bounds on polynomial degree translate directly into lower bounds on the number of tasks: in the asymmetric case no finite-task mechanism exists on the larger-alphabet side at all, while the symmetric case requires at least \(\ell \geq 2n\) tasks.


翻译:暂无翻译

0
下载
关闭预览

相关内容

《计算机信息》杂志发表高质量的论文,扩大了运筹学和计算的范围,寻求有关理论、方法、实验、系统和应用方面的原创研究论文、新颖的调查和教程论文,以及描述新的和有用的软件工具的论文。官网链接:https://pubsonline.informs.org/journal/ijoc
【匹兹堡大学博士论文】数据限制下的因果推理,147页pdf
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
基于深度元学习的因果推断新方法
图与推荐
12+阅读 · 2020年7月21日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Arxiv
0+阅读 · 6月10日
Arxiv
0+阅读 · 5月25日
VIP会员
最新内容
非对称防御中的自组织临界性:俄乌战争
专知会员服务
4+阅读 · 8月10日
《战争中的大语言模型监管》
专知会员服务
3+阅读 · 8月10日
边缘计算的军事应用
专知会员服务
8+阅读 · 8月9日
一种考虑资源机动性的武器目标分配混合算法
专知会员服务
10+阅读 · 8月8日
相关VIP内容
【匹兹堡大学博士论文】数据限制下的因果推理,147页pdf
最新《图嵌入组合优化》综述论文,40页pdf
专知会员服务
35+阅读 · 2020年9月7日
相关资讯
基于深度元学习的因果推断新方法
图与推荐
12+阅读 · 2020年7月21日
近期语音类前沿论文
深度学习每日摘要
14+阅读 · 2019年3月17日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
利用动态深度学习预测金融时间序列基于Python
量化投资与机器学习
18+阅读 · 2018年10月30日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
《pyramid Attention Network for Semantic Segmentation》
统计学习与视觉计算组
44+阅读 · 2018年8月30日
相关基金
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员