yolov5剪枝技术方案

本文讨论yolov5的剪枝方案：
1、上篇文章实战梳理了基于BN层系数gamma剪枝（在一个卷积-BN-激活模块中，BN层可以实现通道的缩放）原理和实践流程，具体可参考上文；
2、对于Bottleneck结构进行剪枝

如果右边的参差很小，则只剩下左边shortcut连接，相当于整个模块都裁剪掉，可以进行约束让参差逼近0。
具体在上篇文章中的train_sparity.py中替换:

            # Backward
            loss.backward()
            # scaler.scale(loss).backward()
            # # ==================