Designing Energy-Efficient Convolutional Neural Networks using Energy-Aware Pruning

这是CVPR 2017年的一篇论文,研究的是:基于能量消耗导向的网络剪枝。

当我们把CNN运用到嵌入式等电池驱动的设备上时,其能量消耗是个不可忽视的大问题。比如,在一个智能手机上,AlexNet不能运行超过一个小时。而以往地针对网络剪枝的关注点主要在model size和FLOPs上面,没有真正的去关注能量的问题。

这篇文章提出的框架如下:

Designing Energy-Efficient Convolutional Neural Networks using Energy-Aware Pruning_第1张图片

其步骤如下:

  1. 以能量消耗排序层
  2. 以幅度大小移除weights
  3.  重新存储weights
  4. 局部微调
  5. 判断还有未剪枝的层:有的话转第 2 步,没的话转第 6 步
  6. 全局微调
  7. 判断准确度是否低于设定的阈值:是就结束,不是就转第 1 步

这样反复地裁剪可以尽可能地减少网络的能量消耗,从结果上来看,这种方法是可行的:

Designing Energy-Efficient Convolutional Neural Networks using Energy-Aware Pruning_第2张图片 但是,这篇论文并没有比较这个方法和其他剪枝方法在能量上的消耗,显得不是很有说服力。

你可能感兴趣的:(模型压缩)