Pytorch----入门级CIFAR10的神经网络层,sequential,tansorboard可视化卷积中的各种参数--（逐行注释）---学习笔记l
文章目录
-
- 普通方法
-
- 完整代码：
- sequential 方法
- 使用tansorboard可视化卷积层中的各种数据
普通方法
使用神经网络: (CIFAR10的神经网络)
可以看到输入数据是 3通道3232的图片。
经过55的卷积核得到323232的数据。
在定义卷积层的时候，看一下padding是多少。
可以在官网查到公式：
显然 H为32，dilation默认为1，kernel_size= 5，
所以这个公式只有 stride和padding不知道了。
可以假设stride为1，则此时padding为2，
如果假设stride为2，则padding就是10+了 显然不合理。
所以此时算出来了stride为1，padding为2。参数默认stride为
1，不用设置。
则此时卷积层设置: self.conv1 = Conv2d(3, 32, 5, padding=2)
紧接着就是最大池化层的设置:self.maxpool1 = MaxPool2d(2)
以此类推将上面整个卷积和池化网络都定义出来，别忘了最后还有两层线性层。
self.conv1 = Conv2d(3, 32, 5, padding=2)
self.maxpool1 = MaxPool2d(2)
self.conv2 = Conv2d(32,32,5,padding=2)
self.maxpool2 = MaxPool2d(2)
self.conv3 = Conv2d(32,64,5,padding=2)
self.maxpool3 = MaxPool2d(2)
# 线性层
self.flatten = Flatten() # 将数据展成一维的
self.linear1 = Linear(1024,64) # 这里为啥是1024 后面解释
self.linear2 = Linear(64,10)
然后直接在foreword里让数据逐一经过这些层。
def forward(self,x):
x = self.conv1(x)
x = self.maxpool1(x)
x = self.conv2(x)
x = self.maxpool2(x)
x = self.conv3(x)
x = self.maxpool3(x)
x = self.linear1(x)
x = self.linear2(x)
return x
加入数据验证网络的正确性:
text = Text()
inputs = torch.ones((64, 3, 32, 32))
output = text(inputs)
print(output.shape)
可以看到输出了 torch.Size([64, 10])
在上面经过卷积和池化之后，最后的线性层需要知道输入的数据维度，所以可以在写线性层之前看一下数据的维度，torch.Size([64, 64, 4, 4]) 。把他展平之后显然是 【64，6444】
所以知道进入线性层的维度是 【64*1024】。
用 flatten() 函数可以直接得到 torch.Size([64, 1024])。
完整代码：
import torch
from torch import nn
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear
class Text(nn.Module):
def __init__(self):
super(Text, self).__init__()
self.conv1 = Conv2d(3, 32, 5, padding=2)
self.maxpool1 = MaxPool2d(2)
self.conv2 = Conv2d(32, 32, 5, padding=2)
self.maxpool2 = MaxPool2d(2)
self.conv3 = Conv2d(32, 64, 5, padding=2)
self.maxpool3 = MaxPool2d(2)
# 线性层
self.flatten = Flatten() # 将数据展成一维的
self.linear1 = Linear(1024, 64)
self.linear2 = Linear(64, 10)
def forward(self, x):
x = self.conv1(x)
x = self.maxpool1(x)
x = self.conv2(x)
x = self.maxpool2(x)
x = self.conv3(x)
x = self.maxpool3(x)
x = self.flatten(x)
x = self.linear1(x)
x = self.linear2(x)
return x
text = Text()
inputs = torch.ones((64, 3, 32, 32))
output = text(inputs)
print(output.shape)
sequential 方法
经过sequential改写之后的代码，就是简化了上面逐层写的步骤，一看就懂.
import torch
from torch import nn
from torch.nn import Conv2d, MaxPool2d, Flatten, Linear, Sequential
class Text(nn.Module):
def __init__(self):
super(Text, self).__init__()
self.model1 = Sequential(
Conv2d(3, 32, 5, padding=2),
MaxPool2d(2),
Conv2d(32, 32, 5, padding=2),
MaxPool2d(2),
Conv2d(32, 64, 5, padding=2),
MaxPool2d(2),
# 线性层
Flatten(), # 将数据展成一维的
Linear(1024, 64),
Linear(64, 10),
)
def forward(self, x):
x = self.model1
return x
text = Text()
inputs = torch.ones((64, 3, 32, 32))
output = text(inputs)
print(output.shape)
使用tansorboard可视化卷积层中的各种数据
加入三行代码可视化上面的各种层。
write = SummaryWriter('logs')
write.add_graph(text,inputs)
write.close()
像这样:
这里面每一个都是可以打开的，双击图标就可以放大，比如我双击一下Text。
再双击我们建立的model:
可以看到这里就有我们建立的各种层了。
可以继续双击放大：
能看到里面的各种数据。比如右边灰色通道里面的输入输出数据维度等，这就为后期进行调试模型带来了极大的方便。
