PyTorch库学习之nn.ConvTranspose2d(模块)

PyTorch库学习之nn.ConvTranspose2d(模块)

一、简介

nn.ConvTranspose2d 是 PyTorch 中的一个模块，用于实现二维转置卷积（也称为反卷积或上采样卷积）。转置卷积通常用于生成比输入更大的输出，例如在生成对抗网络（GANs）和卷积神经网络（CNNs）的解码器部分。

二、语法和参数

语法

torch.nn.ConvTranspose2d(in_channels, out_channels, kernel_size, stride=1, padding=0, output_padding=0, groups=1, bias=True, dilation=1, padding_mode='zeros')

参数

• in_channels: 输入通道的数量。
• out_channels: 输出通道的数量。
• kernel_size: 卷积核的大小，可以是单个整数或是一个包含两个整数的元组。
• stride: 卷积的步长，默认为1。可以是单个整数或是一个包含两个整数的元组。
• padding: 输入的每一边补充0的数量，默认为0。
• output_padding: 输出的每一边额外补充0的数量，默认为0。用于控制输出的大小。
• groups: 将输入分成若干组，默认为1。
• bias: 如果为True，则会添加偏置，默认为True。
• dilation: 卷积核元素之间的间距，默认为1。
• padding_mode: 可选的填充模式，包括 ‘zeros’, ‘reflect’, ‘replicate’ 或 ‘circular’。默认为 ‘zeros’。

三、实例

3.1 创建基本的ConvTranspose2d层

• 代码

import torch
import torch.nn as nn

# 定义 ConvTranspose2d 模块
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=1, kernel_size=3, stride=2, padding=1)

# 创建一个示例输入张量
input_tensor = torch.randn(1, 1, 4, 4)

# 通过 ConvTranspose2d 模块计算输出
output_tensor = conv_transpose(input_tensor)

print("输入张量的形状:", input_tensor.shape)
print("输出张量的形状:", output_tensor.shape)

• 输出

输入张量的形状: torch.Size([1, 1, 4, 4])
输出张量的形状: torch.Size([1, 1, 7, 7])

3.2 使用多个输出通道的ConvTranspose2d

• 代码

import torch
import torch.nn as nn

# 定义 ConvTranspose2d 模块，具有多个输出通道
conv_transpose = nn.ConvTranspose2d(in_channels=1, out_channels=3, kernel_size=3, stride=2, padding=1)

# 创建一个示例输入张量
input_tensor = torch.randn(1, 1, 4, 4)

# 通过 ConvTranspose2d 模块计算输出
output_tensor = conv_transpose(input_tensor)

print("输入张量的形状:", input_tensor.shape)
print("输出张量的形状:", output_tensor.shape)

• 输出

输入张量的形状: torch.Size([1, 1, 4, 4])
输出张量的形状: torch.Size([1, 3, 7, 7])

四、注意事项

• output_padding 参数并不是直接决定输出的大小，而是用来补偿可能由于卷积参数导致的输出尺寸误差。
• 当 stride > 1 时，可能需要调整 padding 和 output_padding 以获得期望的输出尺寸。
• 转置卷积容易产生棋盘效应，可以通过调整超参数或使用不同的上采样方法来缓解。

五、附录：转置卷积输出特征图的计算

转置卷积的输出特征图大小可以通过以下公式计算：
$$\text{Output size}=(I-1)\times S-2P+K+\text{Output padding}$$
其中：

• (I) 是输入特征图的大小（高度或宽度）。
• (S) 是步长 (stride)。
• (P) 是填充 (padding)。
• (K) 是卷积核的大小 (kernel_size)。
• Output padding 是 output_padding 参数。

例子

假设输入特征图大小为 I = 4，步长 S = 2，填充 P = 1，卷积核大小 K = 3，output_padding = 1，则输出特征图的大小为：
$$\text{Output size}=(4-1)\times 2-2\times 1+3+1=3\times 2-2+3+1=6-2+3+1=8$$
因此，输出特征图的大小为 8。

这个公式可以帮助理解 nn.ConvTranspose2d 中各种参数对输出特征图大小的影响。