会员服务
OpenAI · ChatGPT · 强化学习 · 人类反馈强化学习 (RLHF) ·
2023 年 4 月 22 日
【OpenAI-John Schulman】从人类反馈中强化学习:进展与挑战
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

OpenAI 推出的 ChatGPT 对话模型掀起了新的 AI 热潮，它面对多种多样的问题对答如流，似乎已经打破了机器和人的边界。这一工作的背后是大型语言模型 (Large Language Model，LLM) 生成领域的新训练范式：来自OpenAI John Schulman讲述《从人类反馈中强化学习:进展与挑战》技术细节，值得关注！

在本次演讲中，谈论语言模型的幻觉问题，激活检索，语言模型开放问题和真实性。

成为VIP会员查看完整内容
John Schulman - Reinforcement Learning from Human Feedback: Progress and Challenges
63

相关内容

OpenAI，由诸多硅谷大亨联合建立的人工智能非营利组织。2015年马斯克与其他硅谷科技大亨进行连续对话后，决定共同创建OpenAI，希望能够预防人工智能的灾难性影响，推动人工智能发挥积极作用。特斯拉电动汽车公司与美国太空技术探索公司SpaceX创始人马斯克、Y Combinator总裁阿尔特曼、天使投资人彼得·泰尔（Peter Thiel）以及其他硅谷巨头去年12月份承诺向OpenAI注资10亿美元。
西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述
西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述
专知会员服务
145+阅读 · 2023年6月3日
ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模
ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模
专知会员服务
75+阅读 · 2023年5月4日
ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides
ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides
专知会员服务
188+阅读 · 2023年3月2日
ChatGPT如何work的？最新《大型语言模型》综述，51页slides
ChatGPT如何work的？最新《大型语言模型》综述，51页slides
专知会员服务
162+阅读 · 2023年2月28日
ChatGPT 背后的“功臣”——RLHF 技术详解
ChatGPT 背后的“功臣”——RLHF 技术详解
专知会员服务
171+阅读 · 2023年2月21日
斯坦福大学最新【强化学习】2022课程，含ppt
斯坦福大学最新【强化学习】2022课程，含ppt
专知会员服务
133+阅读 · 2022年2月27日
面向任务型的对话系统研究进展
面向任务型的对话系统研究进展
专知会员服务
59+阅读 · 2021年11月17日
【DeepMind】多模态预训练模型概述，37页ppt
【DeepMind】多模态预训练模型概述，37页ppt
专知会员服务
95+阅读 · 2021年7月2日
元强化学习综述及前沿进展
元强化学习综述及前沿进展
专知会员服务
63+阅读 · 2021年1月31日
【DeepMind】强化学习教程，83页ppt
【DeepMind】强化学习教程，83页ppt
专知会员服务
158+阅读 · 2020年8月7日
不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展
不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展
专知
5+阅读 · 2022年9月14日
一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍
一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍
量子位
1+阅读 · 2022年7月23日
【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？
【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？
深度强化学习实验室
43+阅读 · 2020年7月6日
【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战
【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战
GAN生成式对抗网络
18+阅读 · 2019年5月15日
OpenAI丨深度强化学习关键论文列表
OpenAI丨深度强化学习关键论文列表
中国人工智能学会
17+阅读 · 2018年11月10日
【OpenAI】深度强化学习关键论文列表
【OpenAI】深度强化学习关键论文列表
专知
12+阅读 · 2018年11月10日
资源 | 《深度强化学习》手稿开放了！
资源 | 《深度强化学习》手稿开放了！
THU数据派
16+阅读 · 2018年10月24日
【干货】强化学习介绍
【干货】强化学习介绍
人工智能学家
13+阅读 · 2018年6月24日
【深度强化学习】深度强化学习揭秘
【深度强化学习】深度强化学习揭秘
产业智能官
21+阅读 · 2017年11月13日
【强化学习】如何开启强化学习的大门？
【强化学习】如何开启强化学习的大门？
产业智能官
13+阅读 · 2017年9月10日
基于重要性采样的并行离策略强化学习方法研究
国家自然科学基金
23+阅读 · 2015年12月31日
重离子储存环CSRe上激光冷却相对论能量类锂12C3+离子束的实验研究
国家自然科学基金
0+阅读 · 2015年12月31日
胃癌患者苔色变化的微生态-炎症免疫-代谢机制研究
国家自然科学基金
0+阅读 · 2014年12月31日
量子模拟多体阻挫模型
国家自然科学基金
0+阅读 · 2013年12月31日
基于弱指导机器学习技术的中文领域本体非分类关系自动学习研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于技能习得理论的反馈有效性调节机制研究
国家自然科学基金
0+阅读 · 2013年12月31日
Schrodinger-Poisson方程的若干问题研究
国家自然科学基金
1+阅读 · 2012年12月31日
可压缩Navier-Stokes方程全局光滑解的适定性问题
国家自然科学基金
0+阅读 · 2012年12月31日
基于贝叶斯推理的模糊逻辑强化学习模型研究
国家自然科学基金
18+阅读 · 2012年12月31日
基于多智能体强化学习的多机器人系统研究
国家自然科学基金
49+阅读 · 2009年12月31日
Toward Efficient Gradient-Based Value Estimation
Arxiv
0+阅读 · 2023年6月6日
AutoRL Hyperparameter Landscapes
Arxiv
0+阅读 · 2023年6月5日
Kinodynamic FMT* with Dimensionality Reduction Heuristics and Neural Network Controllers
Arxiv
0+阅读 · 2023年6月5日
NICE-SLAM with Adaptive Feature Grids
Arxiv
0+阅读 · 2023年6月4日
Multiscale Positive-Unlabeled Detection of AI-Generated Texts
Arxiv
0+阅读 · 2023年6月2日
How Ready are Pre-trained Abstractive Models and LLMs for Legal Case Judgement Summarization?
Arxiv
0+阅读 · 2023年6月2日
A Survey of Large Language Models
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Sparks of Artificial General Intelligence: Early experiments with GPT-4
Arxiv
51+阅读 · 2023年3月22日
ReNAS:Relativistic Evaluation of Neural Architecture Search
Arxiv
11+阅读 · 2021年3月10日
Low-Shot Learning from Imaginary Data
Arxiv
15+阅读 · 2018年4月3日
VIP会员
相关主题
OpenAI
ChatGPT
强化学习
人类反馈强化学习 (RLHF)
最新内容
2025年大语言模型进展报告
2025年大语言模型进展报告
专知会员服务
1+阅读 · 今天13:30
多智能体协作机制
多智能体协作机制
专知会员服务
1+阅读 · 今天13:26
非对称优势：美海军开发低成本反无人机技术
非对称优势：美海军开发低成本反无人机技术
专知会员服务
4+阅读 · 今天4:39
《反无人机技术领域的技术发展综述：C-UAS探测、跟踪与识别技术》80页报告
《反无人机技术领域的技术发展综述：C-UAS探测、跟踪与识别技术》80页报告
专知会员服务
14+阅读 · 今天2:52
《美战争部小企业创新研究（SBIR）计划》
《美战争部小企业创新研究（SBIR）计划》
专知会员服务
6+阅读 · 今天2:48
《军事模拟：将军事条令与目标融入AI智能体》
《军事模拟：将军事条令与目标融入AI智能体》
专知会员服务
9+阅读 · 今天2:43
【NTU博士论文】3D人体动作生成
【NTU博士论文】3D人体动作生成
专知会员服务
7+阅读 · 4月24日
DeepSeek-V4：百万 Token 上下文背后，大模型正在进入“长程智能”时代（附中英文pdf版）
DeepSeek-V4：百万 Token 上下文背后，大模型正在进入“长程智能”时代（附中英文pdf版）
专知会员服务
8+阅读 · 4月24日
以色列军事技术对美国军力发展的持续性赋能
以色列军事技术对美国军力发展的持续性赋能
专知会员服务
8+阅读 · 4月24日
战场之外的较量：美伊冲突中的认知战与心理博弈
战场之外的较量：美伊冲突中的认知战与心理博弈
专知会员服务
6+阅读 · 4月24日
俄乌战争中乌克兰防空能力演变与见解（中文版）
俄乌战争中乌克兰防空能力演变与见解（中文版）
专知会员服务
7+阅读 · 4月24日
《面向巡飞弹药系统的情境感知深度强化学习自主非线性机动控制》
《面向巡飞弹药系统的情境感知深度强化学习自主非线性机动控制》
专知会员服务
10+阅读 · 4月24日
《深度强化学习在兵棋推演中的应用》40页报告
《深度强化学习在兵棋推演中的应用》40页报告
专知会员服务
14+阅读 · 4月24日
《多域作战面临复杂现实》
《多域作战面临复杂现实》
专知会员服务
10+阅读 · 4月24日
《印度的多域作战：条令与能力发展》报告
《印度的多域作战：条令与能力发展》报告
专知会员服务
5+阅读 · 4月24日
相关VIP内容
西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述
西交大最新《ChatGPT:人工智能生成的内容、挑战与解决方案》综述
专知会员服务
145+阅读 · 2023年6月3日
ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模
ChatGPT中的RLHF技术如何用？CMU最新《自然语言生成中的人工反馈集成》综述，详述人类反馈的格式、目标、用途和建模
专知会员服务
75+阅读 · 2023年5月4日
ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides
ChatGPT核心技术“RLHF”如何学习？最新《基于人类反馈的强化学习:从零到chatGPT》综述，附视频与51页slides
专知会员服务
188+阅读 · 2023年3月2日
ChatGPT如何work的？最新《大型语言模型》综述，51页slides
ChatGPT如何work的？最新《大型语言模型》综述，51页slides
专知会员服务
162+阅读 · 2023年2月28日
ChatGPT 背后的“功臣”——RLHF 技术详解
ChatGPT 背后的“功臣”——RLHF 技术详解
专知会员服务
171+阅读 · 2023年2月21日
斯坦福大学最新【强化学习】2022课程，含ppt
斯坦福大学最新【强化学习】2022课程，含ppt
专知会员服务
133+阅读 · 2022年2月27日
面向任务型的对话系统研究进展
面向任务型的对话系统研究进展
专知会员服务
59+阅读 · 2021年11月17日
【DeepMind】多模态预训练模型概述，37页ppt
【DeepMind】多模态预训练模型概述，37页ppt
专知会员服务
95+阅读 · 2021年7月2日
元强化学习综述及前沿进展
元强化学习综述及前沿进展
专知会员服务
63+阅读 · 2021年1月31日
【DeepMind】强化学习教程，83页ppt
【DeepMind】强化学习教程，83页ppt
专知会员服务
158+阅读 · 2020年8月7日
热门VIP内容
相关资讯
不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展
不可错过！华盛顿大学最新《可解释人工智能》课程，系统讲述XAI最新进展
专知
5+阅读 · 2022年9月14日
一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍
一个AI玩41个游戏，谷歌最新多游戏决策Transformer综合表现分是DQN的两倍
量子位
1+阅读 · 2022年7月23日
【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？
【万字长文总结】如何解决"稀疏奖励(Sparse Reward)"下的强化学习问题？
深度强化学习实验室
43+阅读 · 2020年7月6日
【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战
【干货】Ian GoodFellow ICLR 2019演讲：对抗机器学习的进展与挑战
GAN生成式对抗网络
18+阅读 · 2019年5月15日
OpenAI丨深度强化学习关键论文列表
OpenAI丨深度强化学习关键论文列表
中国人工智能学会
17+阅读 · 2018年11月10日
【OpenAI】深度强化学习关键论文列表
【OpenAI】深度强化学习关键论文列表
专知
12+阅读 · 2018年11月10日
资源 | 《深度强化学习》手稿开放了！
资源 | 《深度强化学习》手稿开放了！
THU数据派
16+阅读 · 2018年10月24日
【干货】强化学习介绍
【干货】强化学习介绍
人工智能学家
13+阅读 · 2018年6月24日
【深度强化学习】深度强化学习揭秘
【深度强化学习】深度强化学习揭秘
产业智能官
21+阅读 · 2017年11月13日
【强化学习】如何开启强化学习的大门？
【强化学习】如何开启强化学习的大门？
产业智能官
13+阅读 · 2017年9月10日
相关基金
基于重要性采样的并行离策略强化学习方法研究
国家自然科学基金
23+阅读 · 2015年12月31日
重离子储存环CSRe上激光冷却相对论能量类锂12C3+离子束的实验研究
国家自然科学基金
0+阅读 · 2015年12月31日
胃癌患者苔色变化的微生态-炎症免疫-代谢机制研究
国家自然科学基金
0+阅读 · 2014年12月31日
量子模拟多体阻挫模型
国家自然科学基金
0+阅读 · 2013年12月31日
基于弱指导机器学习技术的中文领域本体非分类关系自动学习研究
国家自然科学基金
0+阅读 · 2013年12月31日
基于技能习得理论的反馈有效性调节机制研究
国家自然科学基金
0+阅读 · 2013年12月31日
Schrodinger-Poisson方程的若干问题研究
国家自然科学基金
1+阅读 · 2012年12月31日
可压缩Navier-Stokes方程全局光滑解的适定性问题
国家自然科学基金
0+阅读 · 2012年12月31日
基于贝叶斯推理的模糊逻辑强化学习模型研究
国家自然科学基金
18+阅读 · 2012年12月31日
基于多智能体强化学习的多机器人系统研究
国家自然科学基金
49+阅读 · 2009年12月31日
相关论文
Toward Efficient Gradient-Based Value Estimation
Arxiv
0+阅读 · 2023年6月6日
AutoRL Hyperparameter Landscapes
Arxiv
0+阅读 · 2023年6月5日
Kinodynamic FMT* with Dimensionality Reduction Heuristics and Neural Network Controllers
Arxiv
0+阅读 · 2023年6月5日
NICE-SLAM with Adaptive Feature Grids
Arxiv
0+阅读 · 2023年6月4日
Multiscale Positive-Unlabeled Detection of AI-Generated Texts
Arxiv
0+阅读 · 2023年6月2日
How Ready are Pre-trained Abstractive Models and LLMs for Legal Case Judgement Summarization?
Arxiv
0+阅读 · 2023年6月2日
A Survey of Large Language Models
A Survey of Large Language Models
Arxiv
501+阅读 · 2023年3月31日
Sparks of Artificial General Intelligence: Early experiments with GPT-4
Arxiv
51+阅读 · 2023年3月22日
ReNAS:Relativistic Evaluation of Neural Architecture Search
Arxiv
11+阅读 · 2021年3月10日
Low-Shot Learning from Imaginary Data
Arxiv
15+阅读 · 2018年4月3日
微信扫码咨询专知VIP会员
Top