We present a formal proof in Lean of probably approximately correct (PAC) learnability of the concept class of decision stumps. This classic result in machine learning theory derives a bound on error probabilities for a simple type of classifier. Though such a proof appears simple on paper, analytic and measure-theoretic subtleties arise when carrying it out fully formally. Our proof is structured so as to separate reasoning about deterministic properties of a learning function from proofs of measurability and analysis of probabilities.


翻译:我们用利昂语正式证明(PAC)可能大致正确(PAC)了解决策立木的概念类别。 机器学习理论的这一经典结果对简单的分类师来说是建立在错误概率的界限上。 尽管这种证据在纸面上看起来很简单,但在完全正式进行时会出现分析和测量理论的微妙之处。 我们的证据结构将学习功能的决定性特性与可衡量性和概率分析的证据分开。 我们的证据结构化是为了将学习功能的确定性与可衡量性的证据和概率分析区分开来。

0
下载
关闭预览

相关内容

强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
RL 真经
CreateAMind
5+阅读 · 2018年12月28日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
Arxiv
15+阅读 · 2020年12月17日
Arxiv
3+阅读 · 2018年10月11日
Arxiv
3+阅读 · 2018年2月24日
VIP会员
相关VIP内容
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
RL 真经
CreateAMind
5+阅读 · 2018年12月28日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
相关论文
Arxiv
15+阅读 · 2020年12月17日
Arxiv
3+阅读 · 2018年10月11日
Arxiv
3+阅读 · 2018年2月24日
Top
微信扫码咨询专知VIP会员