Scientific machine learning reports predictive performance. It does not report whether the same prediction would survive a different draw of training data. Across $9$ chemistry benchmarks, two classifiers trained on independent bootstraps of the same training set agree on aggregate accuracy to within $1.3\text{--}4.2$ percentage points but disagree on the class label of $8.0\text{--}21.8\%$ of test molecules. We call this gap \emph{cross-sample prediction churn}. The standard parameter-side techniques (deep ensembles, MC dropout, stochastic weight averaging) do not reduce this gap; two data-side methods do. The first is $K$-bootstrap bagging, which cuts the rate $40\text{--}54\%$ on every dataset at no accuracy cost ($K{\times}$-ERM compute). The second is \emph{twin-bootstrap}, our proposal: two networks trained jointly on independent bootstraps with a sym-KL consistency loss between their predictions, which at matched $2{\times}$-ERM compute reduces churn a further median $45\%$ beyond bagging-$K{=}2$. Cross-sample prediction churn deserves a column alongside predictive performance in scientific-ML benchmark reports, because without it the parameter-side and data-side methods are indistinguishable on the metric they actually differ on.


翻译:科学机器学习报告预测性能,但未说明同一预测结果是否会在不同训练数据抽取中保持不变。在9个化学基准测试中,基于同一训练集独立自助法采样训练的两个分类器,其聚合精度差异在1.3–4.2个百分点以内,但对8.0–21.8%的测试分子类别标签存在分歧。我们将此差距称为“跨样本预测波动”。标准参数侧技术(深度集成、MC dropout、随机权重平均)无法缩小此差距,而两种数据侧方法有效:第一种是K重自助聚合,它在不损失精度的情况下将每个数据集的波动率降低40–54%(计算复杂度为K倍ERM);第二种是我们提出的“双自助法”——两个网络在独立自助采样上联合训练,并通过预测间的对称KL一致性损失进行约束,在匹配2倍ERM计算量的条件下,其波动降低中位数比Bagging-K=2方法额外低45%。跨样本预测波动应在科学机器学习基准报告中与预测性能并列呈现,因为若无此指标,参数侧与数据侧方法在它们实际存在差异的度量上将无法区分。

0
下载
关闭预览

相关内容

专知会员服务
30+阅读 · 2021年5月20日
基于深度神经网络的少样本学习综述
专知会员服务
173+阅读 · 2020年4月22日
小样本学习(Few-shot Learning)综述
机器之心
18+阅读 · 2019年4月1日
机器学习中如何处理不平衡数据?
机器之心
13+阅读 · 2019年2月17日
半监督深度学习小结:类协同训练和一致性正则化
从浅层模型到深度模型:概览机器学习优化算法
机器之心
27+阅读 · 2017年7月9日
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
VIP会员
最新内容
俄乌无人机战争的六大启示
专知会员服务
9+阅读 · 8月3日
《无人机空中监控:通信实验洞察》
专知会员服务
6+阅读 · 8月3日
从采集到决策:美军视角下的战术情报范式重构
《履带式无人地面战车技术发展现状》
专知会员服务
6+阅读 · 8月2日
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
9+阅读 · 8月1日
美空军如何将人工智能从战场部署至后方机关
专知会员服务
14+阅读 · 7月31日
相关基金
国家自然科学基金
21+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
17+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
11+阅读 · 2013年12月31日
Top
微信扫码咨询专知VIP会员