深度残差收缩网络简介

深度残差收缩网络（Deep Residual Shrinkage Network，ＤＲＳＮ）是深度残差网络(Deep Residual Network, ResNet)的一个变种，集成了Squeeze-and-Excitation Network(SENet)的注意力机制模块和软阈值化，面向的是强噪声情况下的特征学习问题。接下来，结合一些图片，简要地介绍一下深度残差收缩网络的网络结构。

首先来看ＲｅｓＮｅｔ的基本模块：

然后来看ＳＥＮｅｔ的基本模块。相较于ＲｅｓＮｅｔ，ＳＥＮｅｔ的基本模块增加了一个子网络，用来学习一组权重，对特征图的不同通道进行加权：

接下来看深度残差收缩网络的基本模块。子网络学习得到了一组阈值，用于特征图的软阈值化：

最后是深度残差网络的整体结构，与一般的ＲｅｓＮｅｔ是相同的：

M. Zhao, S. Zhong, X. Fu, B. Tang, M. Pecht, Deep Residual Shrinkage Networks for Fault Diagnosis, IEEE Transactions on Industrial Informatics, 2019, DOI: 10.1109/TII.2019.2943898

https://ieeexplore.ieee.org/document/8850096