Deploying accurate object detection for Vulnerable Road User (VRU) safety on edge hardware requires balancing model capacity against computational constraints. Large models achieve high accuracy but fail under INT8 quantization required for edge deployment, while small models sacrifice detection performance. This paper presents a knowledge distillation (KD) framework that trains a compact YOLOv8-S student (11.2M parameters) to mimic a YOLOv8-L teacher (43.7M parameters), achieving 3.9x compression while preserving quantization robustness. We evaluate on full-scale BDD100K (70K training images) with Post-Training Quantization to INT8. The teacher suffers catastrophic degradation under INT8 (-23% mAP), while the KD student retains accuracy (-5.6% mAP). Analysis reveals that KD transfers precision calibration rather than raw detection capacity: the KD student achieves 0.748 precision versus 0.653 for direct training at INT8, a 14.5% gain at equivalent recall, reducing false alarms by 44% versus the collapsed teacher. At INT8, the KD student exceeds the teacher's FP32 precision (0.748 vs. 0.718) in a model 3.9x smaller. These findings establish knowledge distillation as a requirement for deploying accurate, safety-critical VRU detection on edge hardware.


翻译:在边缘硬件上部署用于弱势道路使用者(VRU)安全检测的精确目标检测模型,需要在模型能力与计算约束之间取得平衡。大型模型虽能实现高精度,但在边缘部署所需的INT8量化下性能下降,而小型模型则牺牲检测性能。本文提出一种知识蒸馏(KD)框架,训练紧凑型YOLOv8-S学生模型(1120万参数)模仿YOLOv8-L教师模型(4370万参数),实现3.9倍压缩同时保持量化鲁棒性。我们在全量BDD100K数据集(7万张训练图像)上采用训练后量化(PTQ)至INT8进行评估。教师模型在INT8下出现严重性能退化(mAP下降23%),而KD学生模型保持精度(mAP下降5.6%)。分析表明,KD传递的是精度校准能力而非原始检测能力:KD学生在INT8下精确率达0.748,而直接训练模型仅为0.653(在同等召回率下提升14.5%),且相较于崩溃的教师模型,误报率降低44%。在INT8下,KD学生模型以3.9倍更小的模型规模,超越了教师模型FP32的精确率(0.748 vs. 0.718)。这些发现确立了知识蒸馏作为在边缘硬件上部署精确、安全关键的VRU检测模型的必要条件。

0
下载
关闭预览

相关内容

基于脉冲神经网络的边缘智能
专知会员服务
20+阅读 · 2025年7月23日
国防领域边缘计算:将智能推向行动前沿
专知会员服务
28+阅读 · 2025年4月6日
人工智能如何增强军事监控与边境安全
专知会员服务
20+阅读 · 2025年3月20日
战术边缘态势感知:私有AI如何推动国防AI创新
专知会员服务
30+阅读 · 2025年3月19日
专知会员服务
66+阅读 · 2021年5月3日
【边缘智能综述论文】A Survey on Edge Intelligence
专知会员服务
124+阅读 · 2020年3月30日
《“边缘计算+”技术白皮书》,82页pdf
专知
11+阅读 · 2022年8月28日
边缘智能发展与演进白皮书
物联网智库
13+阅读 · 2019年6月17日
深度学习在自动驾驶感知领域的应用
AI100
11+阅读 · 2019年3月6日
边缘计算应用:传感数据异常实时检测算法
计算机研究与发展
11+阅读 · 2018年4月10日
实战|手把手教你实现图象边缘检测!
全球人工智能
10+阅读 · 2018年1月19日
国家自然科学基金
12+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
VIP会员
最新内容
认知战与交战性质的改变:神经战略视角
专知会员服务
5+阅读 · 5月8日
人工智能如何变革军事C5ISR作战
专知会员服务
12+阅读 · 5月8日
相关基金
国家自然科学基金
12+阅读 · 2017年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员