语言模型(LMs)在训练过程中遇到了大量的世界知识,最近的研究表明如何通过各种形式的LM提示/微调/探索来恢复其中的一些知识。但是我们离实现知识库的全部功能和精确度还有多远呢?哪些挑战可以通过简单地放大更多的参数来解决,哪些挑战需要与模型大小正交的新研究? 在这次演讲中,我将从评估LMs今天能做和不能做的边界开始。然后,我将讨论一组(可能)单靠模型扩展无法克服的关键挑战,以及最近为解决这些挑战所做的工作。例如:我们如何获得模型声明的出处?我们如何更新模型以适应新信息或新环境?

https://uskb-workshop.github.io/

成为VIP会员查看完整内容
27

相关内容

【CIKM2021-Tutorial】图挖掘公平性,166页ppt
专知会员服务
31+阅读 · 2021年11月5日
专知会员服务
67+阅读 · 2021年2月17日
少即是多?非参数语言模型,68页ppt
专知会员服务
24+阅读 · 2020年11月22日
少标签数据学习,61页ppt,宾夕法尼亚大学
专知会员服务
37+阅读 · 2020年8月27日
少标签数据学习,54页ppt
专知会员服务
205+阅读 · 2020年5月22日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
26+阅读 · 2019年11月19日
谷歌 MorphNet:让你的神经网络更小但更快
机器学习算法与Python学习
5+阅读 · 2019年4月18日
各种NLP操作难实现?谷歌开源序列建模框架Lingvo
机器之心
4+阅读 · 2019年2月26日
Arxiv
25+阅读 · 2020年3月11日
Arxiv
4+阅读 · 2019年9月5日
SlowFast Networks for Video Recognition
Arxiv
19+阅读 · 2018年12月10日
VIP会员
最新内容
美军MAVEN项目全面解析:算法战架构
专知会员服务
14+阅读 · 今天8:36
从俄乌战场看“马赛克战”(万字长文)
专知会员服务
8+阅读 · 今天8:19
最新“指挥控制”领域出版物合集(16份)
专知会员服务
15+阅读 · 4月12日
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
20+阅读 · 4月12日
远程空中优势:新一代超视距导弹的兴起
专知会员服务
4+阅读 · 4月12日
大语言模型溯因推理的统一分类学与综述
专知会员服务
6+阅读 · 4月12日
相关VIP内容
【CIKM2021-Tutorial】图挖掘公平性,166页ppt
专知会员服务
31+阅读 · 2021年11月5日
专知会员服务
67+阅读 · 2021年2月17日
少即是多?非参数语言模型,68页ppt
专知会员服务
24+阅读 · 2020年11月22日
少标签数据学习,61页ppt,宾夕法尼亚大学
专知会员服务
37+阅读 · 2020年8月27日
少标签数据学习,54页ppt
专知会员服务
205+阅读 · 2020年5月22日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
26+阅读 · 2019年11月19日
微信扫码咨询专知VIP会员