Generative social robots (GSRs) powered by large language models enable adaptive, conversational tutoring but also introduce risks such as misinformation, overreliance, and privacy violations. Existing frameworks for educational technologies and responsible AI primarily define desired behaviors, yet they rarely specify the knowledge prerequisites that enable generative agents to express these behaviors reliably. To address this gap, we adopt a knowledge-based design perspective and investigate what information tutoring-oriented GSRs require to function responsibly and effectively in higher education. Based on twelve semistructured interviews with university students and lecturers, we identified twelve design requirements across three knowledge types: self-knowledge (assertive, conscientious, and friendly personality with customizable role), user-knowledge (personalized information about student learning goals, learning progress, motivation type, emotional state, and background), and context-knowledge (learning materials, educational strategies, courserelated information, and physical learning environment). Drawing from these results, this work provides a structured foundation for the design of tutoring GSRs, aligning generative AI capabilities with pedagogical and ethical expectations.


翻译:由大语言模型驱动的生成式社交机器人(GSRs)具备自适应对话式辅导能力,但也带来了错误信息、过度依赖及隐私侵犯等风险。现有教育技术与负责任人工智能框架主要定义理想行为,却鲜有阐明使生成式智能体可靠表达这些行为所需的知识前提。为填补这一空白,我们采用基于知识的设计视角,探究面向辅导的GSRs在高等教育中负责任且有效运行所需的信息。通过对12位大学生与教师的半结构化访谈,我们梳理出涵盖三类知识的12项设计需求:自我知识(具有可定制角色的自信、尽责、友好型人格)、用户知识(学生个性化信息——学习目标、学习进度、动机类型、情绪状态及背景)与情境知识(学习材料、教育策略、课程相关信息及物理学习环境)。基于这些成果,本文为辅导型GSRs的设计提供了结构化基础,使生成式AI能力与教学及伦理期望相协调。

0
下载
关闭预览

相关内容

《生成式人工智能及其在防御性网络安全课程中的应用》
专知会员服务
19+阅读 · 2025年10月30日
NSR综述:生成式人工智能 | 赫然、曹杰、谭铁牛
专知会员服务
38+阅读 · 2025年3月10日
清华大学《高级机器学习》课程
专知
40+阅读 · 2020年7月21日
机器学习必备的数学基础有哪些?
人工智能头条
12+阅读 · 2019年10月18日
人工智能在教育领域的应用探析
MOOC
14+阅读 · 2019年3月16日
剖析腾讯知文,智能问答机器人路在何方?
AI前线
12+阅读 · 2018年11月3日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
15+阅读 · 2016年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
VIP会员
相关主题
最新内容
博士论文 | 面向大模型推理的内存高效算法
专知会员服务
2+阅读 · 7月27日
美空军新型反无人机部队初探
专知会员服务
5+阅读 · 7月27日
《防空交战流程的概率建模研究》
专知会员服务
7+阅读 · 7月27日
ICML 2026 教程 | 数值优化理论还重要吗?
专知会员服务
6+阅读 · 7月26日
ICM 2026 | 陶哲轩:人工智能时代的数学
专知会员服务
9+阅读 · 7月26日
《反无人机交战场景下的战斗归零研究》
专知会员服务
7+阅读 · 7月26日
博士论文 | 用代码结构感知方法推进代码大模型
相关VIP内容
《生成式人工智能及其在防御性网络安全课程中的应用》
专知会员服务
19+阅读 · 2025年10月30日
NSR综述:生成式人工智能 | 赫然、曹杰、谭铁牛
专知会员服务
38+阅读 · 2025年3月10日
相关基金
国家自然科学基金
1+阅读 · 2017年12月31日
国家自然科学基金
15+阅读 · 2016年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2013年12月31日
国家自然科学基金
23+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员