Pytorch池化层、线性层、激活函数层

  • 池化层
    • 最大池化、平均池化
    • pytorch实现池化(下采样)
      • 最大池化
      • 平均池化
    • pytorch实现反池化(上采样)
      • 最大值反池化
  • 线性层
  • 激活函数层
    • sigmoid
    • tanh
    • relu

池化层

最大池化、平均池化

Pytorch池化层、线性层、激活函数层_第1张图片

pytorch实现池化(下采样)

最大池化

Pytorch池化层、线性层、激活函数层_第2张图片
冗余信息剔除、减小运算量

平均池化

Pytorch池化层、线性层、激活函数层_第3张图片
相对于最大池池化的图像亮度较小

pytorch实现反池化(上采样)

最大值反池化

Pytorch池化层、线性层、激活函数层_第4张图片

img_reconstruct = torch.randn_like(img_pool, dtype=torch.float)
maxunpool_layer = nn.MaxUnpool2d((2, 2), stride=(2, 2))
img_unpool = maxunpool_layer(img_reconstruct, indices)

线性层

Pytorch池化层、线性层、激活函数层_第5张图片
Pytorch池化层、线性层、激活函数层_第6张图片

激活函数层

非线性变换

sigmoid

Pytorch池化层、线性层、激活函数层_第7张图片

tanh

Pytorch池化层、线性层、激活函数层_第8张图片

relu

Pytorch池化层、线性层、激活函数层_第9张图片
Pytorch池化层、线性层、激活函数层_第10张图片

你可能感兴趣的:(pytorch)