yolov5剪枝实战1: 论文及yolov5剪枝实战项目介绍


本系列博客介绍yolov5剪枝方法

1. 介绍

神经网络一般都存在过参数化(over-parameterized)的问题,存在冗余的神经元或权重,所以可以进行剪枝。
yolov5剪枝实战1: 论文及yolov5剪枝实战项目介绍_第1张图片
其实对网络可以针对不同的颗粒度进行剪枝,可以进行权重、神经元级别的剪枝,也可以基于channel, shape,filter以及layer级别的剪枝。
yolov5剪枝实战1: 论文及yolov5剪枝实战项目介绍_第2张图片
如果对element-wise级别的剪枝会导致非结构化的网络剪枝,所以我们研究的重点是结构化的剪枝方法。

2. Network Slimming剪枝的原理

yolov5剪枝实战1: 论文及yolov5剪枝实战项目介绍_第3张图片
Network Sliming就是一种结构化的网络剪枝方法,论文发表于ICCV 2017, 论文的题目是:

你可能感兴趣的:(模型轻量化,图像分类,剪枝,深度学习,神经网络)