随着不同形式的世界模型的出现，“知识感知”学习正在成为语言学习的一个重要研究领域。•OOD泛化、ML安全性和数据效率是全面评估我们在ML管道中利用这些预先训练模型的效果的关键轴。•当使用不同的“先验”时，我们需要新的理论工具来精确地描述这些轴之间的权衡。•知识是“不完整的”——用我们的经验适当地增强世界模型对实现闭环系统至关重要。•不确定性估计和模型可靠性描述是模型设计和优化的一个组成部分。