剪枝基础与实战(5): 剪枝代码详解

对模型进行剪枝,我们只对有参数的层进行剪枝,我们基于BatchNorm2d对通道重要度 γ \gamma γ参数进行稀释训练。对BatchNorm2d及它的前后层也需要进行剪枝。主要针对有参数的层:Conv2dBatchNorm2dLinear。但是我们不会对Pool2d 层进行剪枝,因为Pool2d只用来做下采样,没有可学习的参数,不用处理

剪枝基础与实战(5): 剪枝代码详解_第1张图片

0 VGG 模型代码

剪枝基础与实战(5): 剪枝代码详解_第2张图片

import<

你可能感兴趣的:(模型轻量化,剪枝,python,算法)