Generative AI challenges academic integrity not only by enabling students to delegate substantial portions of their academic work, but also by blurring the ethical boundaries by which students distinguish acceptable assistance from misconduct. Drawing on semi-structured interviews (n=20), AI chat logs, and course documents (syllabi, submitted assignments), we investigated how students themselves make moral sense of AI use in academic writing. Our analysis results in a range of novel findings: First, there are at least five distinct sites of AI-use conceptualization, ranging from faculty's intended AI policy, to students' actual AI use. Second, students use over 20 distinct rationalizations to justify AI use, such as that copying AI-generated text is victimless; that any AI text reflecting their own beliefs or their own style is their own writing; or that they are learning more by using AI -- even extensively -- than otherwise. We present a taxonomy of these rationalizations, and show how some of them are employed to justify conscious violations of course policies. Third, student rationalizations occur in both an ad hoc and post hoc manner, and they are not necessarily self-consistent. These and other findings suggest that modern AI presents a steep, ethical, slippery slope which students conceptually slide down, landing far outside the pedagogical goals and expectations of instructors. We discuss implications for educational design and AI policy.


翻译:生成式AI不仅通过让学生将大量学术工作外包来挑战学术诚信,还模糊了学生区分可接受帮助与不当行为的伦理界限。基于半结构化访谈(n=20)、AI聊天记录及课程文档(教学大纲、提交作业),我们研究了学生如何在道德上理解学术写作中的AI使用。分析得出了一系列新发现:第一,AI使用概念化存在至少五个不同层面,从教师预期的AI政策到学生实际的AI使用。第二,学生使用超过20种不同的合理化理由来为AI使用辩护,例如:复制AI生成的文本无受害者;任何反映自身信念或风格的AI文本即为其原创;以及通过使用AI(甚至大规模使用)比不使用学到更多。我们提出了这些合理化的分类体系,并展示其中部分如何被用于为故意违反课程政策辩护。第三,学生的合理化过程既包括临时性也包括事后性,且未必自我一致。这些及其他发现表明,现代AI呈现出一条陡峭的伦理滑溜斜坡,学生在概念上沿此下滑,最终远低于教师的教学目标与期望。我们讨论了对教育设计及AI政策的启示。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
AI生成代码缺陷综述
专知会员服务
17+阅读 · 2025年12月8日
【新书】使用AI智能体构建应用程序
专知会员服务
61+阅读 · 2024年10月26日
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
完备的 AI 学习路线,最详细的资源整理!
新智元
18+阅读 · 2019年5月4日
完备的 AI 学习路线,最详细的中英文资源整理
机器之心
29+阅读 · 2019年4月28日
人工智能在教育领域的应用探析
MOOC
14+阅读 · 2019年3月16日
机器翻译学术论文写作方法和技巧
清华大学研究生教育
11+阅读 · 2018年12月23日
可能是 Android 上最好用的写作 App
少数派
11+阅读 · 2018年12月21日
NLG ≠ 机器写作 | 专家专栏
量子位
13+阅读 · 2018年9月10日
为什么 Python 更适合做 AI/机器学习?
计算机与网络安全
12+阅读 · 2018年3月18日
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
VIP会员
最新内容
《无人地面战车(UGV)的崛起》报告
专知会员服务
5+阅读 · 7月16日
美陆军任务式指挥人工智能解决方案
专知会员服务
7+阅读 · 7月16日
相关资讯
AI可解释性文献列表
专知
43+阅读 · 2019年10月7日
完备的 AI 学习路线,最详细的资源整理!
新智元
18+阅读 · 2019年5月4日
完备的 AI 学习路线,最详细的中英文资源整理
机器之心
29+阅读 · 2019年4月28日
人工智能在教育领域的应用探析
MOOC
14+阅读 · 2019年3月16日
机器翻译学术论文写作方法和技巧
清华大学研究生教育
11+阅读 · 2018年12月23日
可能是 Android 上最好用的写作 App
少数派
11+阅读 · 2018年12月21日
NLG ≠ 机器写作 | 专家专栏
量子位
13+阅读 · 2018年9月10日
为什么 Python 更适合做 AI/机器学习?
计算机与网络安全
12+阅读 · 2018年3月18日
相关基金
国家自然科学基金
3+阅读 · 2017年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员