Learning-based quadruped controllers achieve impressive agility but typically lack formal safety guarantees under model uncertainty, perception noise, and unstructured contact conditions. We introduce SafeMind, a differentiable stochastic safety-control framework that unifies probabilistic Control Barrier Functions with semantic context understanding and meta-adaptive risk calibration. SafeMind explicitly models epistemic and aleatoric uncertainty through a variance-aware barrier constraint embedded in a differentiable quadratic program, thereby preserving gradient flow for end-to-end training. A semantics-to-constraint encoder modulates safety margins using perceptual or language cues, while a meta-adaptive learner continuously adjusts risk sensitivity across environments. We provide theoretical conditions for probabilistic forward invariance, feasibility, and stability under stochastic dynamics. SafeMind is deployed on Unitree A1 and ANYmal C at 200~Hz and validated across 12 terrain types, dynamic obstacles, morphology perturbations, and semantically defined tasks. Experiments show that SafeMind reduces safety violations by 3--10x and energy consumption by 10--15% relative to state-of-the-art CBF, MPC, and hybrid RL baselines, while maintaining real-time control performance.


翻译:基于学习的四足控制器虽能实现惊人的敏捷性,但在模型不确定性、感知噪声及非结构化接触条件下普遍缺乏形式化安全保证。本文提出SafeMind——一种可微分随机安全控制框架,其将概率控制障碍函数与语义上下文理解及元自适应风险校准相统一。SafeMind通过嵌入可微分二次规划中的方差感知障碍约束显式建模认知不确定性与偶然不确定性,从而保持端到端训练的梯度流。其语义-约束编码器利用感知或语言线索调节安全裕度,而元自适应学习器能跨环境持续调整风险敏感度。我们给出了随机动力学下概率正向不变性、可行性及稳定性的理论条件。SafeMind以200赫兹频率部署于Unitree A1和ANYmal C机器人,在12种地形类型、动态障碍物、形态扰动及语义定义任务中完成验证。实验表明:相比当前最先进的CBF、MPC及混合强化学习基线方法,SafeMind将安全违规率降低3-10倍,能耗降低10-15%,同时保持实时控制性能。

0
下载
关闭预览

相关内容

具身AI安全综述:风险、攻击与防御
专知会员服务
11+阅读 · 5月6日
《人工智能军事系统的风险分级监管路径》
专知会员服务
23+阅读 · 2025年7月10日
图机器学习在蚂蚁集团安全风控场景的应用
专知会员服务
40+阅读 · 2022年10月7日
无人预警机系统架构及关键技术分析
专知
13+阅读 · 2022年8月6日
浅谈主动学习(Active Learning)
凡人机器学习
32+阅读 · 2020年6月18日
【泡泡图灵智库】Detect-SLAM:目标检测和SLAM相互收益
泡泡机器人SLAM
14+阅读 · 2019年6月28日
网络安全态势感知
计算机与网络安全
26+阅读 · 2018年10月14日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
学习数据的几何:形状空间分析数学综述
专知会员服务
8+阅读 · 6月17日
定向能反无人机系统最新发展动态
专知会员服务
10+阅读 · 6月17日
从燃煤战舰到算法战争:水面指挥的永恒要求
专知会员服务
6+阅读 · 6月17日
相关VIP内容
具身AI安全综述:风险、攻击与防御
专知会员服务
11+阅读 · 5月6日
《人工智能军事系统的风险分级监管路径》
专知会员服务
23+阅读 · 2025年7月10日
图机器学习在蚂蚁集团安全风控场景的应用
专知会员服务
40+阅读 · 2022年10月7日
相关资讯
无人预警机系统架构及关键技术分析
专知
13+阅读 · 2022年8月6日
浅谈主动学习(Active Learning)
凡人机器学习
32+阅读 · 2020年6月18日
【泡泡图灵智库】Detect-SLAM:目标检测和SLAM相互收益
泡泡机器人SLAM
14+阅读 · 2019年6月28日
网络安全态势感知
计算机与网络安全
26+阅读 · 2018年10月14日
Focal Loss for Dense Object Detection
统计学习与视觉计算组
12+阅读 · 2018年3月15日
网络安全态势感知浅析
计算机与网络安全
18+阅读 · 2017年10月13日
相关基金
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员