Pytorch深度学习实践-刘二大人-08加载数据集

1.区分epoch Batch_size,Iterations

Epoch指的是完整的数据集训练完多少轮。每一次epoch,所有的数据均被训练（超参）

Batch-size指的是每次用用来更新权重的部分数据

Iteration指的是需要多少个batch-size就能把所有的数据均训练完。= total_batch

Iteration = total / Batch-size

2. 加载数据集主要用到Dataset和Dataloader

Dataset:能够支持对数据集中的数据索引查询，获取长度等方法。它是抽象类！，所有方法都需要在子类中实现

DataLoader: 帮我们加载数据，对数据进行打乱，分组然后进行训练。

Return x,y 返回的是(x，y)元组 

enumerate 指的是从train_loader里返回的是元组，（序号，data），data里面已经将x，y分别封装好成.

3. Torchvision中还提供Datasets函数，和其他数据集

Datasets是torchvision中提供的函数，已经继承了Dataset类。实现了getitem等函数，能够直接调用其来加载部分数据集！

例子为：

Torchvision.datasets中含有许多数据集。其已经实现了dataset中长度和项的函数。

 以下为课堂练习题代码：

import numpy as np
import torch
from torch.utils.data import Dataset, DataLoader


class DiabetesDataset(Dataset):
    def __init__(self, filepath):
        xy = np.loadtxt('E:\Pytorch深度入门实践\diabetes.csv.gz', delimiter=',', dtype=np.float32)
        self.len = xy.shape[0]
        self.x_data = torch.from_numpy(xy[:, :-1])
        self.y_data = torch.from_numpy(xy[:, [-1]])

    def __getitem__(self, index):
        return self.x_data[index], self.y_data[index]

    def __len__(self):
        return self.len


dataset = DiabetesDataset('diabetes.csv.gz')
train_loader = DataLoader(dataset=dataset,
                          batch_size=32,
                          shuffle=True,
                          num_workers=2)


class Model(torch.nn.Module):
    def __init__(self):
        super(Model, self).__init__()
        self.linear1 = torch.nn.Linear(8, 6)
        self.linear2 = torch.nn.Linear(6, 4)
        self.linear3 = torch.nn.Linear(4, 1)
        self.sigmoid = torch.nn.Sigmoid()

    def forward(self, x):
        x = self.sigmoid(self.linear1(x))
        x = self.sigmoid(self.linear2(x))
        x = self.sigmoid(self.linear3(x))
        return x


model = Model()
criterion = torch.nn.BCELoss(reduction='mean')
optimizer = torch.optim.SGD(model.parameters(), lr=0.01)


if __name__ == '__main__':
    for epoch in range(100):
        for i, data in enumerate(train_loader, 0):
            # 1. Prepare data
            inputs, labels = data
            # 2. Forward
            y_pred = model(inputs)
            loss = criterion(y_pred, labels)
            print(epoch, i, loss.item())
            # 3. Backward
            optimizer.zero_grad()
            loss.backward()
            # 4. Update
            optimizer.step()