Safety assurance cases provide structured justifications that safety-critical systems meet their safety requirements. Recently, the notion of defeaters has emerged as a rigorous means of challenging the validity of safety arguments. Examples of defeaters might include overly strict claims, unreliable evidence, or reasoning gaps. However, defeaters remain ad hoc, lack structured support for critical reflection, are inconsistently described, are difficult to review, and lack documentation standards. To address this, we propose Defeater Cards, a new structured documentation artifact for systematically characterizing, reasoning about, and managing defeaters in safety cases. Drawing on a literature survey and thematic analysis, we identify documentation criteria that inform the card's structure, based on the 5W1H framework. Defeater Cards are designed to support informed analysis and evolution, improve traceability and auditability, and enable the reuse of defeater knowledge across systems and product variants. We demonstrate their applicability through two cross-domain case studies, showing how they expose hidden assumptions, surface reasoning gaps, and support ongoing safety assurance case evolution. To support adoption and community reuse, we also release an open-source repository of defeater cards as a baseline upon which researchers and practitioners can build and describe lessons learned.


翻译:安全保证案例为关键安全系统满足其安全需求提供了结构化的论证依据。近年来,"反证特征"(defeaters)的概念被提出,作为对安全论证有效性进行严格质疑的手段。反证特征的实例可能包括过于严苛的声明、不可靠的证据或推理缺陷。然而,当前反证特征的处理仍存在临时性、缺乏批判性反思的结构化支持、描述不一致、难以审查以及缺少文档规范等问题。为解决这些问题,我们提出反证卡片(Defeater Cards)——一种新的结构化文档产物,用于系统地表征、推理和管控安全案例中的反证特征。基于文献调查与主题分析,我们依据5W1H框架确定了文档化准则,用以指导卡片结构设计。反证卡片旨在支持有依据的分析与演化、提升可追溯性与可审计性,并实现跨系统及产品变体中反证知识的复用。通过两个跨领域案例研究,我们展示了其如何揭示隐藏假设、暴露推理缺陷,并支持安全保证案例的持续演化。为促进采纳与社区复用,我们还开源了反证卡片知识库,作为研究者与实践者构建经验与描述教训的基线。

0
下载
关闭预览

相关内容

图异常检测在金融反欺诈中的应用研究进展
专知会员服务
50+阅读 · 2022年11月20日
因果关联学习,Causal Relational Learning
专知会员服务
185+阅读 · 2020年4月21日
智能合约的形式化验证方法研究综述
专知
16+阅读 · 2021年5月8日
异常检测论文大列表:方法、应用、综述
专知
126+阅读 · 2019年7月15日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
Arxiv
0+阅读 · 6月15日
Arxiv
0+阅读 · 6月8日
VIP会员
最新内容
《无人机脆弱性利用:网络空间力量的新域》
专知会员服务
2+阅读 · 8月1日
美空军如何将人工智能从战场部署至后方机关
专知会员服务
11+阅读 · 7月31日
《史诗怒火行动:多域前瞻评估》49页报告
专知会员服务
7+阅读 · 7月31日
《英国防部:未来空战系统数字化战略》33页
专知会员服务
5+阅读 · 7月31日
《面向自主飞行网络的智能体人工智能架构》
专知会员服务
7+阅读 · 7月31日
“史诗怒火”行动:现代多域作战的重要节点
专知会员服务
8+阅读 · 7月30日
《下一代无线网络中的多无人机通信资源管理》
相关VIP内容
相关基金
国家自然科学基金
2+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员