深度学习基础18（多层感知机代码实现）

多层感知机的从零开始实现

现在自己实现一个多层感知机。

为了与之前softmax回归 获得的结果进行比较， 将继续使用Fashion-MNIST图像分类数据集

import torch
from torch import nn
from d2l import torch as d2l

batch_size = 256
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size)

初始化模型参数

Fashion-MNIST中的每个图像由 28×28=784个灰度像素值组成,所有图像共分为10个类别。

忽略像素之间的空间结构， 我们可以将每个图像视为具有784个输入特征 和10个类的简单分类数据集。

首先，我们将实现一个具有单隐藏层的多层感知机， 它包含256个隐藏单元。

注意，我们可以将这两个变量都视为超参数。

通常，我们选择2的若干次幂作为层的宽度。 因为内存在硬件中的分配和寻址方式，这么做往往可以在计算上更高效。

我们用几个张量来表示我们的参数。

注意，对于每一层我们都要记录一个权重矩阵和一个偏置向量。 我们要为损失关于这些参数的梯度分配内存。

num_inputs, num_outputs, num_hiddens = 784, 10, 256 #num_inputs, num_outputs这两个参数都是由数据决定的，num_hiddens这个是隐藏层超参数

W1 = nn.Parameter(torch.randn(#nn.Parameter这个加不加都没关系，是声明是torch的一个parameter
    num_inputs, num_hiddens, requires_grad=True) * 0.01)#num_inputs, num_hiddens行数是784，列数是256
b1 = nn.Parameter(torch.zeros(num_hiddens