The adoption of large language models in safety-critical system engineering is constrained by trustworthiness, traceability, and alignment with established verification practices. We propose workflow-level design principles for trustworthy GenAI integration and demonstrate them in an end-to-end automotive pipeline, from requirement delta identification to SysML v2 architecture update and re-testing. First, we show that monolithic ("big-bang") prompting misses critical changes in large specifications, while section-wise decomposition with diversity sampling and lightweight NLP sanity checks improves completeness and correctness. Then, we propagate requirement deltas into SysML v2 models and validate updates via compilation and static analysis. Additionally, we ensure traceable regression testing by generating test cases through explicit mappings from specification variables to architectural ports and states, providing practical safeguards for GenAI used in safety-critical automotive engineering.


翻译:在安全关键系统工程中采用大语言模型受到可信性、可追溯性以及与既定验证实践对齐的制约。我们提出了用于可信生成式人工智能集成的工作流级设计原则,并在从需求差异识别到SysML v2架构更新与再测试的端到端汽车工程流水线中进行了验证。首先,我们证明整体式("大爆炸")提示方法会遗漏大型规范中的关键变更,而采用分节分解结合多样性采样与轻量级自然语言处理合理性检查的方法,能提升完整性与正确性。随后,我们将需求差异传递至SysML v2模型中,并通过编译与静态分析验证更新。此外,我们通过建立从规范变量到架构端口及状态的显式映射来生成测试用例,从而确保可追溯的回归测试,为安全关键汽车工程中使用的生成式人工智能提供了实用的保障措施。

0
下载
关闭预览

相关内容

汽车,本来是指汽油车,在中国泛指四轮内燃机车,包括汽油车,柴油车,电动车,混动车。汽车由德国人发明,德语词为Automobil,这个词由两部分构成,分别是Auto和Mobil,意为自动运行车,或称为自动车。
迈向可信的人工智能:伦理和稳健的大型语言模型综述
专知会员服务
39+阅读 · 2024年7月28日
面向人工智能的计算机体系结构
计算机研究与发展
14+阅读 · 2019年6月6日
基于模型系统的系统设计
科技导报
10+阅读 · 2019年4月25日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
VIP会员
最新内容
澳大利亚发布《国防战略(2026年)》
专知会员服务
0+阅读 · 25分钟前
【CMU博士论文】迈向基于基础先验的 4D 感知研究
专知会员服务
0+阅读 · 21分钟前
全球高超音速武器最新发展趋势
专知会员服务
0+阅读 · 50分钟前
人工智能在战场行动中的演进及伊朗案例
专知会员服务
7+阅读 · 4月18日
美AI公司Anthropic推出网络安全模型“Mythos”
专知会员服务
4+阅读 · 4月18日
【博士论文】面向城市环境的可解释计算机视觉
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员