近年来,鉴于教育场景固有的敏感性(Sensitivity)——例如涉及未成年人及弱势群体、高度个性化的学习数据以及高利害性(High-stakes)的教育产出——可信性(Trustworthiness)在智能教育领域引起了广泛关注。然而,现有研究呈现出明显的局限性:部分研究仅聚焦于特定任务的可信化方法,缺乏全局视角(Holistic view);而现有的综述性讨论往往过于宏观且碎片化,缺乏清晰且系统化的分类体系。 为应对上述挑战,本文对可信智能教育进行了系统性且结构化的综述。具体而言,我们首先将智能教育划分为五大代表性任务:学习者能力评估、学习资源推荐、学习分析、教育内容理解以及教学辅助。在此任务图谱的基础上,我们进一步从安全性与隐私、鲁棒性、公平性、可解释性以及可持续性五个可信维度对现有文献进行了评述,并对相应的研究方法与解决方案进行了归纳与分类。最后,本文总结了当前面临的关键挑战,并探讨了未来的研究方向。本综述旨在构建一个连贯的参考框架,以促进学术界对智能教育可信性问题的深入理解。

1 引言

随着深度学习与数据驱动技术的飞速发展,智能教育(Intelligent Education) [Chen et al., 2020] 已成为现代教育技术中的核心范式。与主要依赖静态课程体系和统一教学方法的传统教育模式不同,智能教育强调适应性(Adaptability)个性化(Personalization)。其核心目标是动态建模学生的知识水平、行为表现及学习需求,并据此提供定制化的学习资源与教学支持。此外,该范式已广泛应用于各类在线学习平台和数字教育基础设施,深刻重塑了教与学的组织形式。 随着智能教育系统越来越多地介入高影响力的教育决策(High-impact educational decisions),其可信性(Trustworthiness)已成为不可回避的议题 [Smuha, 2019]。这是由教育场景固有的敏感性决定的:受教育者通常为未成年人,学习数据记录了细粒度的个体行为,且系统输出会切实影响学习者的教育轨迹。因此,不可信的系统行为——包括隐私泄露、预测波动(Unstable predictions)、决策偏见以及推荐算法的不透明——不仅会导致技术失效,还可能引发教学风险及社会性风险。 近年来,越来越多的研究开始探索智能教育中的信任相关问题,涵盖了隐私保护认知诊断 [Yang et al., 2025a]、鲁棒学习建模 [Yao et al., 2024] 以及可解释教育评估 [Cheng et al., 2024] 等课题。尽管这些工作从不同维度推进了可信技术的发展,但其研究仍分散在孤立的任务中。同时,现有的综述研究 [Smuha, 2020; Anagnostopoulou et al., 2024; Li, 2025] 虽然试图探讨可信 AI 与教育的交叉领域,但往往停留在宏观层面或呈现出碎片化特征,且在任务分类标准上缺乏一致性。 为此,本文旨在通过对可信智能教育进行系统且结构化的综述(如图 1 所示)来弥补上述不足。具体而言,我们首先通过界定五个代表性任务类别来勾勒智能教育的清晰版图:学习者能力评估、学习资源推荐、学习分析、教育内容理解以及教学辅助。基于此任务图谱,我们从安全性与隐私、鲁棒性、公平性、可解释性以及可持续性五个核心可信维度进行了全面回顾。通过这种双层组织架构,我们揭示了在不同智能教育任务中,可信性诉求是如何产生、被解决以及相互作用的。此外,我们总结了当前的关键开放挑战,并探讨了具有前景的未来研究方向,旨在为推进可信智能教育提供连贯的概念框架与实践路线图。 综上所述,本综述的主要贡献如下: * 我们通过将核心功能组织为五大关键任务类型,提供了智能教育的结构化视角。 * 我们从五个互补维度(安全性与隐私、鲁棒性、公平性、可解释性和可持续性)对智能教育的可信性进行了统一评述,并对各维度下的研究方法进行了归纳与分类。 * 我们深入讨论并总结了当前可信智能教育研究中的局限性与挑战。 * 我们梳理并展望了可信智能教育的未来发展方向,包括挑战驱动的研究路径及前沿研究领域,以期提供洞察与指引。

成为VIP会员查看完整内容
16

相关内容

《可信人工智能赋能系统的支柱》
专知会员服务
4+阅读 · 今天3:00
可信机器学习综述
专知会员服务
48+阅读 · 2024年7月15日
《可信人工智能产业生态发展报告》2022最新65页
专知会员服务
108+阅读 · 2022年9月8日
人工智能系统可信性度量评估研究综述
专知会员服务
95+阅读 · 2022年1月30日
专知会员服务
102+阅读 · 2020年3月19日
最新《可解释人工智能》概述,50页ppt
专知
12+阅读 · 2021年3月17日
人工智能在教育领域的应用探析
MOOC
14+阅读 · 2019年3月16日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
Arxiv
0+阅读 · 2月18日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员