#今日论文推荐# 不到1ms在iPhone12上完成推理，苹果提出移动端高效主干网络MobileOne

#今日论文推荐# 不到1ms在iPhone12上完成推理，苹果提出移动端高效主干网络MobileOne

来自苹果的研究团队分析了现有高效神经网络的架构和优化瓶颈，提出了一种新型移动端主干网络。
用于移动设备的高效神经网络主干通常针对 FLOP 或参数计数等指标进行优化。但当部署在移动设备上，这些指标与网络的延迟可能并没有很好的相关性。
基于此，来自苹果的研究者通过在移动设备上部署多个移动友好网络对不同指标进行广泛分析，探究了现有高效神经网络的架构和优化瓶颈，提供了缓解这些瓶颈的方法。该研究设计了一个高效的主干架构 MobileOne，它的变体在 iPhone12 上的推理时间少于 1 ms，在 ImageNet 上的 top-1 准确率为 75.9%。

MobileOne 架构不仅实现了 SOTA 的性能，还在移动设备上提速了许多倍。其中，最好的模型变体在 ImageNet 上获得了与 MobileFormer 相当的性能，同时速度提高了 38 倍。MobileOne 在 ImageNet 上的 top-1 准确率比 EfficientNet 在相似的延迟下高 2.3%。

此外，该研究还表明 MobileOne 可以推广到多个任务 —— 图像分类、目标检测和语义分割，与部署在移动设备上的现有高效架构相比，准确度显著提高，延迟显著缩短。
方法概览
研究者首先分析了常用指标（FLOP 和参数计数）与移动设备延迟的相关性，并分析了架构中不同设计选择对手机延迟的影响。
指标相关性
比较两个或多个模型大小最常用的成本指标是参数计数和 FLOPs。但是，它们可能与实际移动应用程序中的延迟没有很好的相关性，该研究对此进行了深入的分析，对高效神经网络进行了基准测试。
该研究并使用近期模型的 Pytorch 实现将它们转换为 ONNX 格式。该研究使用 Core ML Tools 将每个模型转换成 coreml 包，然后开发了一个 iOS 应用程序来测量 iPhone12 上的模型延迟。
如下图 2 所示，该研究绘制了延迟与 FLOPs 和延迟与参数计数的关系图。研究者观察发现许多具有较高参数计数的模型延迟较低。在类似的 FLOPs 和参数计数下，MobileNets 等卷积模型对于比相应的 Transformer 模型延迟更低。

论文题目：An Improved One millisecond Mobile Backbone
详细解读：

AMiner链接：https://www.aminer.cn/?f=cs