MutualNet: Adaptive ConvNet via MutualLearning from Network Width and Resolution文章精读

Abstract
本文提出了宽度-分辨率相互学习的方法（MutualNet），根据动态的资源约束来训练网络，实现运行时自适应的准确率-效率的平衡。该方法利用不同的宽度和输入分辨率，训练了多个子网络，每个网络都互相学习多尺度的特征表示。相对于目前SOTA的自适应网络 US-Net，本文方法在ImageNet上取得了更高的top-1准确率，要比最优的复合尺度的MobileNet和EfficientNet 高1.5 % 1.5\%1.5%。在COCO目标检测、实例分割和迁移学习任务上，该方法也进行了验证。MutualNet的训练策略可以提升单个网络的性能，在效率（GPU搜索时间：1500 vs. 0）和准确率（ImageNet: 77.6 % 77.6\%77.6% vs. 78.6 % 78.6\%78.6%）方面都显著超过了AutoAugmentation。

1. Introduction
深度神经网络在多项感知任务上都很成功。但是，深度网络通常需要大量的计算资源，很难部署到移动设备和嵌入式平台上。这就促使人们去研究，如何设计出更高效的卷积模块或裁剪掉不重要的网络连接，来降低神经网络中的冗余。但是，这些网络都忽略了一个事实，计算成本由网络的大小和输入的大小决定。只想着降低网络的大小是没法实现最优的准确率-效率平衡的。EfficientNet 已经认识到，平衡网络深度、宽度、分辨率的重要性。但是它只考虑了网络的大小和输入的大小。作者对不同的配置进行了网格搜索，选择最佳的配置，作者认为网络的大小和输入大小应该结合不同配置信息一起来考虑。