Step-around prompting is a form of adversarial prompt engineering in which a user strategically reframes, sequences, or contextualises requests to test whether a generative AI model's safety guardrails, alignment mechanisms, or bias mitigations can be undermined, inconsistently applied, or bypassed outright. This study examines this technique through the lens of academic ethics, situating it as a tool that has a clear impact on academic integrity, responsible conduct of research, duty of care to students, and institutional oversight of GenAI use in higher education. We argue that step-around prompting is one tool within the wider practice of audit, red-teaming, and institutional evaluation, and that its main value lies in documenting how representational, cultural, linguistic, disciplinary, and misinformation-related biases may appear across student-facing and research-facing uses of GenAI. To show why the ethical governance of this practice is required, we provide two illustrative examples of the technique in action, demonstrating how easily guardrails can be circumvented and what is at stake when they are. We clarify which bias categories are in scope and identify who should use the method and for what purposes. We conclude with an operational ethics-and-governance framework for controlled academic application, organised as two pillars (technical safeguards and ethical governance) and enacted through a decision and audit cycle that scales oversight to potential risk, grounded in harm minimisation, duty of care, transparency, proportionality, responsible disclosure, legal and contractual compliance, and student protection.


翻译:暂无翻译

0
下载
关闭预览

相关内容

大语言模型表示工程的分类、机会与挑战
专知会员服务
22+阅读 · 2025年2月28日
最新《Transformers模型》教程,64页ppt
专知会员服务
326+阅读 · 2020年11月26日
Transformer模型-深度学习自然语言处理,17页ppt
专知会员服务
108+阅读 · 2020年8月30日
综述:基于GAN的图像翻译模型盘点
PaperWeekly
13+阅读 · 2019年9月2日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
无人机自主控制与人工智能:系统性综述
专知会员服务
8+阅读 · 今天7:25
巡飞弹与反无人机系统——现代战场的两大支柱
专知会员服务
3+阅读 · 今天6:54
《打造“黄金舰队”》57页报告
专知会员服务
2+阅读 · 今天6:52
《北约数字教官网络发展路径》128页报告
专知会员服务
2+阅读 · 今天6:33
ECCV 2026 | MIMFlow:MIM与归一化流统一图像生成
专知会员服务
7+阅读 · 6月25日
网状网络及其在军事领域的运用
专知会员服务
7+阅读 · 6月25日
无美国参与的欧洲战争方式(万字长文)
专知会员服务
8+阅读 · 6月25日
《国防领域敏感性分析白皮书》
专知会员服务
9+阅读 · 6月25日
综述 | 从问答到任务完成:Agent系统与Harness设计
专知会员服务
10+阅读 · 6月24日
Agentic RL:框架、实践与长程智能体训练
专知会员服务
10+阅读 · 6月24日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员