会员服务
人工智能 · 深度学习 · 梯度下降 · 自适应学习 · 斯坦福大学 (Stanford University) ·
2019 年 12 月 19 日
【斯坦福大学】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

目录：

  • 数据处理
    • 数据扩充
    • 批量归一化
  • 训练神经网络
    • Epoch
    • 最小批量
    • 交叉熵损失
    • 反向传播
    • 梯度下降
    • 更新权重
    • 梯度检查
  • 参数调整
    • Xavier初始化
    • 转移学习
    • 学习率
    • 自适应学习率
  • 正则化
    • Dropout
    • 权重调整
    • 提前停止
  • 良好训练
    • 过度拟合小批量
    • 梯度检查
成为VIP会员查看完整内容
https://stanford.edu/~shervine/teaching/cs-230/cheatsheet-deep-learning-tips-and-tricks
29

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。
【斯坦福大学课程】2021年深度多任务学习与元学习，CS 330: Deep Multi-Task and Meta Learning
【斯坦福大学课程】2021年深度多任务学习与元学习，CS 330: Deep Multi-Task and Meta Learning
专知会员服务
110+阅读 · 2022年3月2日
最新《机器学习最优化》课程笔记，36页pdf，Optimization for Machine Learning
专知会员服务
173+阅读 · 2020年5月10日
【伯克利】最新《深度半监督学习》总述，146页ppt，Semi-Supervised Learning
【伯克利】最新《深度半监督学习》总述，146页ppt，Semi-Supervised Learning
专知会员服务
148+阅读 · 2020年4月11日
【机器学习最优化课程笔记】Optimization for Machine Learning，36页pdf
【机器学习最优化课程笔记】Optimization for Machine Learning，36页pdf
专知会员服务
117+阅读 · 2020年3月25日
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
专知会员服务
34+阅读 · 2020年3月4日
【资源推荐】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi
【资源推荐】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi
专知会员服务
27+阅读 · 2019年12月19日
【斯坦福大学CS229】面向机器学习的线性代数和微积分要点速览(中文版)《CS 229 - Linear Algebra and Calculus refresher》by Afshine Amidi, Shervine Amidi
【斯坦福大学CS229】面向机器学习的线性代数和微积分要点速览(中文版)《CS 229 - Linear Algebra and Calculus refresher》by Afshine Amidi, Shervine Amidi
专知会员服务
198+阅读 · 2019年12月19日
【课程推荐】 深度学习中的几何（Geometry of Deep Learning）
【课程推荐】 深度学习中的几何（Geometry of Deep Learning）
专知会员服务
59+阅读 · 2019年11月10日
【麻省理工学院课程】MIT 6.S094: Deep Learning for Self-Driving Cars，深度学习和自动驾驶课程
【麻省理工学院课程】MIT 6.S094: Deep Learning for Self-Driving Cars，深度学习和自动驾驶课程
专知会员服务
53+阅读 · 2019年11月1日
【课程】伯克利2019全栈深度学习课程（附下载）
【课程】伯克利2019全栈深度学习课程（附下载）
专知会员服务
57+阅读 · 2019年10月29日
你有哪些深度学习（rnn、cnn）调参的经验？
你有哪些深度学习（rnn、cnn）调参的经验？
七月在线实验室
10+阅读 · 2019年3月27日
7个实用的深度学习技巧
7个实用的深度学习技巧
机器学习算法与Python学习
16+阅读 · 2019年3月6日
资源 | 源自斯坦福CS229，机器学习备忘录在集结
资源 | 源自斯坦福CS229，机器学习备忘录在集结
机器之心
19+阅读 · 2018年8月22日
深度学习面试100题（第81-85题）
深度学习面试100题（第81-85题）
七月在线实验室
17+阅读 · 2018年8月6日
深度学习面试100题（第76-80题）
深度学习面试100题（第76-80题）
七月在线实验室
6+阅读 · 2018年8月3日
深度学习面试100题（第41-45题）
深度学习面试100题（第41-45题）
七月在线实验室
15+阅读 · 2018年7月18日
深度学习面试100题（第31-35题）
深度学习面试100题（第31-35题）
七月在线实验室
8+阅读 · 2018年7月16日
入门 | 深度学习模型的简单优化技巧
入门 | 深度学习模型的简单优化技巧
机器之心
10+阅读 · 2018年6月10日
【教程】如何估算深度神经网络的最优学习率
【教程】如何估算深度神经网络的最优学习率
GAN生成式对抗网络
5+阅读 · 2017年11月18日
[学习] 这些深度学习网络训练技巧，你了解吗？
[学习] 这些深度学习网络训练技巧，你了解吗？
菜鸟的机器学习
7+阅读 · 2017年7月29日
A Survey of Deep Learning for Scientific Discovery
A Survey of Deep Learning for Scientific Discovery
Arxiv
29+阅读 · 2020年3月26日
A Survey on Distributed Machine Learning
Arxiv
45+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
106+阅读 · 2019年12月19日
Meta-Transfer Learning for Few-Shot Learning
Meta-Transfer Learning for Few-Shot Learning
Arxiv
8+阅读 · 2018年12月6日
Deep Learning for Image Denoising: A Survey
Arxiv
5+阅读 · 2018年10月11日
A Survey on Deep Transfer Learning
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Improving Online Multiple Object tracking with Deep Metric Learning
Arxiv
7+阅读 · 2018年6月20日
Learning to Update for Object Tracking
Arxiv
8+阅读 · 2018年6月19日
NeuroNet: Fast and Robust Reproduction of Multiple Brain Image Segmentation Pipelines
Arxiv
5+阅读 · 2018年6月11日
Online Deep Metric Learning
Arxiv
8+阅读 · 2018年5月15日
VIP会员
相关主题
人工智能
深度学习
梯度下降
自适应学习
斯坦福大学 (Stanford University)
最新内容
战术边缘的联盟联合全域指挥控制（CJADC2）：量子抵抗云与零信任架构
战术边缘的联盟联合全域指挥控制（CJADC2）：量子抵抗云与零信任架构
专知会员服务
7+阅读 · 10月28日
《人工智能：在国防部门实施负责任使用的行动与机遇》
《人工智能：在国防部门实施负责任使用的行动与机遇》
专知会员服务
6+阅读 · 10月28日
《面向国防领域的大语言模型基准测试与适配》
《面向国防领域的大语言模型基准测试与适配》
专知会员服务
8+阅读 · 10月28日
综述｜大模型递归自改进：如何证明系统越改越强，也依然可信？
综述｜大模型递归自改进：如何证明系统越改越强，也依然可信？
专知会员服务
6+阅读 · 10月27日
综述｜让大模型学会记忆：从存储机制到智能体演化
综述｜让大模型学会记忆：从存储机制到智能体演化
专知会员服务
6+阅读 · 10月27日
EMNLP2026 ｜ CoDe-LoRA：双轨架构破解大模型持续学习的“正交困境”
EMNLP2026 ｜ CoDe-LoRA：双轨架构破解大模型持续学习的“正交困境”
专知会员服务
4+阅读 · 10月27日
世界模型入门：从序贯决策到通用智能体
世界模型入门：从序贯决策到通用智能体
专知会员服务
12+阅读 · 10月24日
综述｜时间序列异常检测：从方法分类到可信评估与统一模型
综述｜时间序列异常检测：从方法分类到可信评估与统一模型
专知会员服务
8+阅读 · 10月24日
综述｜长文档视觉问答：从读懂页面到获取充分证据
综述｜长文档视觉问答：从读懂页面到获取充分证据
专知会员服务
8+阅读 · 10月23日
综述｜通过视频理解、生成与交互世界：迈向统一视频世界模型
综述｜通过视频理解、生成与交互世界：迈向统一视频世界模型
专知会员服务
6+阅读 · 10月23日
《信息速度战争：数据传输、决策优势与军事太空通信的未来》智库报告
《信息速度战争：数据传输、决策优势与军事太空通信的未来》智库报告
专知会员服务
16+阅读 · 10月22日
《用于实时健康与位置跟踪的物联网赋能智能士兵监测系统》
《用于实时健康与位置跟踪的物联网赋能智能士兵监测系统》
专知会员服务
9+阅读 · 10月22日
《强化学习与老虎机策略选择在即时战略游戏中的应用》
《强化学习与老虎机策略选择在即时战略游戏中的应用》
专知会员服务
7+阅读 · 10月22日
军事域更好使用人工智能的实用指南
军事域更好使用人工智能的实用指南
专知会员服务
11+阅读 · 10月22日
《衡量语言模型中的作战规划能力》
《衡量语言模型中的作战规划能力》
专知会员服务
15+阅读 · 10月20日
相关VIP内容
【斯坦福大学课程】2021年深度多任务学习与元学习，CS 330: Deep Multi-Task and Meta Learning
【斯坦福大学课程】2021年深度多任务学习与元学习，CS 330: Deep Multi-Task and Meta Learning
专知会员服务
110+阅读 · 2022年3月2日
最新《机器学习最优化》课程笔记，36页pdf，Optimization for Machine Learning
专知会员服务
173+阅读 · 2020年5月10日
【伯克利】最新《深度半监督学习》总述，146页ppt，Semi-Supervised Learning
【伯克利】最新《深度半监督学习》总述，146页ppt，Semi-Supervised Learning
专知会员服务
148+阅读 · 2020年4月11日
【机器学习最优化课程笔记】Optimization for Machine Learning，36页pdf
【机器学习最优化课程笔记】Optimization for Machine Learning，36页pdf
专知会员服务
117+阅读 · 2020年3月25日
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
专知会员服务
34+阅读 · 2020年3月4日
【资源推荐】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi
【资源推荐】深度学习技巧速查清单《CS 230 - Deep Learning Tips and Tricks Cheatsheet》by Afshine Amidi, Shervine Amidi
专知会员服务
27+阅读 · 2019年12月19日
【斯坦福大学CS229】面向机器学习的线性代数和微积分要点速览(中文版)《CS 229 - Linear Algebra and Calculus refresher》by Afshine Amidi, Shervine Amidi
【斯坦福大学CS229】面向机器学习的线性代数和微积分要点速览(中文版)《CS 229 - Linear Algebra and Calculus refresher》by Afshine Amidi, Shervine Amidi
专知会员服务
198+阅读 · 2019年12月19日
【课程推荐】 深度学习中的几何（Geometry of Deep Learning）
【课程推荐】 深度学习中的几何（Geometry of Deep Learning）
专知会员服务
59+阅读 · 2019年11月10日
【麻省理工学院课程】MIT 6.S094: Deep Learning for Self-Driving Cars，深度学习和自动驾驶课程
【麻省理工学院课程】MIT 6.S094: Deep Learning for Self-Driving Cars，深度学习和自动驾驶课程
专知会员服务
53+阅读 · 2019年11月1日
【课程】伯克利2019全栈深度学习课程（附下载）
【课程】伯克利2019全栈深度学习课程（附下载）
专知会员服务
57+阅读 · 2019年10月29日
热门VIP内容
相关资讯
你有哪些深度学习（rnn、cnn）调参的经验？
你有哪些深度学习（rnn、cnn）调参的经验？
七月在线实验室
10+阅读 · 2019年3月27日
7个实用的深度学习技巧
7个实用的深度学习技巧
机器学习算法与Python学习
16+阅读 · 2019年3月6日
资源 | 源自斯坦福CS229，机器学习备忘录在集结
资源 | 源自斯坦福CS229，机器学习备忘录在集结
机器之心
19+阅读 · 2018年8月22日
深度学习面试100题（第81-85题）
深度学习面试100题（第81-85题）
七月在线实验室
17+阅读 · 2018年8月6日
深度学习面试100题（第76-80题）
深度学习面试100题（第76-80题）
七月在线实验室
6+阅读 · 2018年8月3日
深度学习面试100题（第41-45题）
深度学习面试100题（第41-45题）
七月在线实验室
15+阅读 · 2018年7月18日
深度学习面试100题（第31-35题）
深度学习面试100题（第31-35题）
七月在线实验室
8+阅读 · 2018年7月16日
入门 | 深度学习模型的简单优化技巧
入门 | 深度学习模型的简单优化技巧
机器之心
10+阅读 · 2018年6月10日
【教程】如何估算深度神经网络的最优学习率
【教程】如何估算深度神经网络的最优学习率
GAN生成式对抗网络
5+阅读 · 2017年11月18日
[学习] 这些深度学习网络训练技巧，你了解吗？
[学习] 这些深度学习网络训练技巧，你了解吗？
菜鸟的机器学习
7+阅读 · 2017年7月29日
相关论文
A Survey of Deep Learning for Scientific Discovery
A Survey of Deep Learning for Scientific Discovery
Arxiv
29+阅读 · 2020年3月26日
A Survey on Distributed Machine Learning
Arxiv
45+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Optimization for deep learning: theory and algorithms
Arxiv
106+阅读 · 2019年12月19日
Meta-Transfer Learning for Few-Shot Learning
Meta-Transfer Learning for Few-Shot Learning
Arxiv
8+阅读 · 2018年12月6日
Deep Learning for Image Denoising: A Survey
Arxiv
5+阅读 · 2018年10月11日
A Survey on Deep Transfer Learning
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Improving Online Multiple Object tracking with Deep Metric Learning
Arxiv
7+阅读 · 2018年6月20日
Learning to Update for Object Tracking
Arxiv
8+阅读 · 2018年6月19日
NeuroNet: Fast and Robust Reproduction of Multiple Brain Image Segmentation Pipelines
Arxiv
5+阅读 · 2018年6月11日
Online Deep Metric Learning
Arxiv
8+阅读 · 2018年5月15日
微信扫码咨询专知VIP会员
Top