We introduce Deep QP Safety Filter, a fully data-driven safety layer for black-box dynamical systems. Our method learns a Quadratic-Program (QP) safety filter without model knowledge by combining Hamilton-Jacobi (HJ) reachability with model-free learning. We construct contraction-based losses for both the safety value and its derivatives, and train two neural networks accordingly. In the exact setting, the learned critic converges to the viscosity solution (and its derivative), even for non-smooth values. Across diverse dynamical systems -- even including a hybrid system -- and multiple RL tasks, Deep QP Safety Filter substantially reduces pre-convergence failures while accelerating learning toward higher returns than strong baselines, offering a principled and practical route to safe, model-free control.


翻译:我们提出深度QP安全滤波器,一种针对黑箱动力系统的全数据驱动安全层。该方法通过结合哈密顿-雅可比可达性与无模型学习,在不依赖模型知识的情况下习得二次规划安全滤波器。我们构建了针对安全值及其导数的收缩损失函数,并据此训练两个神经网络。在精确设定下,学习到的评论家函数收敛至粘性解及其导数,即使对非光滑值函数亦成立。在多种动力系统(包括混合动力系统)及多个强化学习任务中,深度QP安全滤波器显著减少了预收敛阶段的故障,同时加速学习过程,使其获得优于强基线的更高回报,为安全无模型控制提供了完备且实用的解决路径。

0
下载
关闭预览

相关内容

DeepSeek模型在中文语境下的安全性评估
专知会员服务
27+阅读 · 2025年2月21日
【普林斯顿博士论文】深度学习安全性,275页pdf
专知会员服务
69+阅读 · 2023年2月9日
深度学习可解释性研究进展
专知
19+阅读 · 2020年6月26日
推荐召回算法之深度召回模型串讲
AINLP
22+阅读 · 2019年6月14日
(免费精品课程分享)-PyTorch深度学习实战
深度学习与NLP
18+阅读 · 2018年10月28日
深度学习应用于网络空间安全所面临的十大问题与机遇
计算机研究与发展
22+阅读 · 2018年6月7日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
《美空军2026条令文件:对海压制作战》
专知会员服务
9+阅读 · 11月9日
人工智能与战争的未来
专知会员服务
4+阅读 · 11月8日
《Agent Mosaic:识别智能体LLM系统中的机密泄露》
人工智能在军事教育中的应用:若干视角与经验
“星链”减速与不断适应的乌克兰
专知会员服务
7+阅读 · 11月6日
美国中期选举之后:帕兰提尔面临不确定性?
专知会员服务
4+阅读 · 11月6日
相关VIP内容
DeepSeek模型在中文语境下的安全性评估
专知会员服务
27+阅读 · 2025年2月21日
【普林斯顿博士论文】深度学习安全性,275页pdf
专知会员服务
69+阅读 · 2023年2月9日
相关基金
国家自然科学基金
4+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
19+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员