香港大学最新 | 超越PointPillar：通过知识蒸馏实现高效的3D目标检测

作者 | 王汝嘉  编辑 | 汽车人

原文链接：https://zhuanlan.zhihu.com/p/573732965

点击下方卡片，关注“自动驾驶之心”公众号

ADAS巨卷干货，即可获取

后台回复【模型压缩】获取模型压缩、裁剪、量化、蒸馏等综述论文！

论文：https://arxiv.org/pdf/2205.15156.pdf

作者单位：香港大学 马克斯·普朗克信息学研究所 商汤

代码：https://github.com/CVMI-Lab/SparseKD

论文思路：

尽管在3D目标检测方面取得了实质性进展，但高级3D检测器通常会承受沉重的计算开销。为此，本文探索了知识蒸馏 (KD) 在开发有效的3D对象检测器方面的潜力，重点是流行的基于支柱Pillar和体素Voxel的检测器。在缺乏完善(well-developed)的师生对(teacher-student pairs)的情况下，本文首先从模型压缩和输入分辨率降低的角度研究如何获得在准确性和效率之间进行良好权衡的学生模型。然后，本文建立一个基准，以评估在六个构造良好的师生对的(teacher-student pairs)2D域中开发的用于3D目标检测的现有KD方法。此外，本文提出了一种改进的KD pipeline，该pipeline结合了增强的logit KD方法，该方法仅在由教师分类响应确定的几个关键位置上执行KD，以及教师指导的学生模型初始化，以促进通过权重将教师模型的特征提取能力转移给学生继承。最后，本文在Waymo和KITTI数据集进行了广泛的实验。本文的最佳表现模型达到了65.75% LEVEL 2 mAPH,，超过了它的教师模型，在Waymo上只需要其教师的44%的flops。本文最高效的版本在NVIDIA A100上运行达到51 FPS，比PointPillar快2.2倍，并且在Waymo上具有更高的精度。

主要贡献：

本文已经研究了知识蒸馏作为获得具有广泛实验结果和分析的高效3D检测器的通用方法的潜力。本文发现，在设计有效的学生模型时，基于pillar的检测器更喜欢输入压缩，而基于体素的检测器更适合宽度压缩。此外，本文提出了关键位置logit KD和教师指导的初始化来增强3D KD pipeline。本文性能最好的探测器以2.4 × 更少的flops胜过它的老师，本文最高效的探测器比NVIDIA A100上具有更高性能的以前最快的基于体素/pillar的检测器pointpillars快2.2倍。

论文设计：

由于没有现成的轻量级骨干架构可用于构建学生网络，因此本文对如何获得具有令人满意的效率和准确性的有效模型进行了实证研究，以促进进一步的知识蒸馏。在本节中，本文将首先描述本文的实验设置和模型评估指标。然后，本文研究了不同的策略以获得有效的模型，并对如何实现基于pillar和体素的体系结构的良好权衡进行了深入分析。

三维检测的总体KD范式。在整个蒸馏过程中，教师的重量被冻结。Logit，feature和label KD分别用绿色，紫色和黄色着色。

实验结果：

往期回顾

nuScenes 纯视觉新SOTA！SOLOFusion：时序立体3D检测的新观点和基线

【自动驾驶之心】全栈技术交流群

自动驾驶之心是首个自动驾驶开发者社区，聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D目标检测、BEV感知、多传感器融合、SLAM、光流估计、深度估计、轨迹预测、高精地图、规划控制、模型部署落地、自动驾驶仿真测试、硬件配置、AI求职交流等方向；

加入我们：自动驾驶之心技术交流群汇总！

自动驾驶之心【知识星球】

想要了解更多自动驾驶感知（分类、检测、分割、关键点、车道线、3D目标检测、多传感器融合、目标跟踪、光流估计、轨迹预测）、自动驾驶定位建图（SLAM、高精地图）、自动驾驶规划控制、领域技术方案、AI模型部署落地实战、行业动态、岗位发布，欢迎扫描下方二维码，加入自动驾驶之心知识星球（三天内无条件退款），日常分享论文+代码，这里汇聚行业和学术界大佬，前沿技术方向尽在掌握中，期待交流！