数据增广+代码实现+Q&A

前言

在做kaggle叶子分类竞赛的时候，我发现我无法完整的布置一个项目尤其是对dataloader无法自我部署，包括数据预处理方面。我看了几篇博客，其实最重要的就是dataloader的书写。所以我暂时放弃了kaggle，专心将计算机视觉的相关学完后再去做沐神创办的竞赛。

数据增广

就是增强，为了是增大数据集添加噪音更好的泛化之类的操作。

代码实现

对他所有的每个项目的部署进行分解。

pytorch中加载数据的顺序是：
①创建一个dataset对象
②创建一个dataloader对象
③循环dataloader对象，将data,label拿到模型中去训练

1.加载数据集dataset

加载数据集并随机打印32个

all_images = torchvision.datasets.CIFAR10(
    train=True, root="../data", download=True)
d2l.show_images([
    all_images[i][0] for i in range(32)], 4, 8, scale=0.8);

2.数据增广

#totensor将他变成4d的矩阵
train_augs = torchvision.transforms.Compose([
     torchvision.transforms.RandomHorizontalFlip(),
     torchvision.transforms.ColorJitter(brightness=0.5, contrast=0, saturation=0, hue=0),
     torchvision.transforms.ToTensor()])

test_augs = torchvision.transforms.Compose([
     torchvision.transforms.ToTensor()])

3.dataloader的书写(对一个项目来说这里是十分重要的)

#     augs 是什么模式  一次多少个
def load_cifar10(is_train,augs,batch_size):
    dataset = torchvision.datasets.CIFAR10(
        root="../data", train = is_train,
        transform=augs,download=True)
    dataloader = torch.utils.data.DataLoader(dataset, batch_size=batch_size,
                    shuffle=is_train, num_workers=4)
    return dataloader

4.训练函数

首先是对于一个batch_size的训练

下面的函数时对于整个模型的训练

#@save
def train_batch_ch13(net, X, y, loss, trainer, devices):
    """用多GPU进行小批量训练"""
    if isinstance(X, list):
        # 微调BERT中所需（稍后讨论）
        X = [x.to(devices[0]) for x in X]
    else:
        X = X.to(devices[0])
    y = y.to(devices[0])
    net.train()
    trainer.zero_grad()
    pred = net(X)
    l = loss(pred, y)
    l.sum().backward()
    trainer.step()
    train_loss_sum = l.sum()
    train_acc_sum = d2l.accuracy(pred, y)
    return train_loss_sum, train_acc_sum

#@save
def train_ch13(net, train_iter, test_iter, loss, trainer, num_epochs,
               devices=d2l.try_all_gpus()):
    """用多GPU进行模型训练"""
    timer, num_batches = d2l.Timer(), len(train_iter)
    animator = d2l.Animator(xlabel='epoch', xlim=[1, num_epochs], ylim=[0, 1],
                            legend=['train loss', 'train acc', 'test acc'])
    net = nn.DataParallel(net, device_ids=devices).to(devices[0])
    for epoch in range(num_epochs):
        # 4个维度：储存训练损失，训练准确度，实例数，特点数
        metric = d2l.Accumulator(4)
        for i, (features, labels) in enumerate(train_iter):
            timer.start()
            l, acc = train_batch_ch13(
                net, features, labels, loss, trainer, devices)
            metric.add(l, acc, labels.shape[0], labels.numel())
            timer.stop()
            if (i + 1) % (num_batches // 5) == 0 or i == num_batches - 1:
                animator.add(epoch + (i + 1) / num_batches,
                             (metric[0] / metric[2], metric[1] / metric[3],
                              None))
        test_acc = d2l.evaluate_accuracy_gpu(net, test_iter)
        animator.add(epoch + 1, (None, None, test_acc))
    print(f'loss {metric[0] / metric[2]:.3f}, train acc '
          f'{metric[1] / metric[3]:.3f}, test acc {test_acc:.3f}')
    print(f'{metric[2] * num_epochs / timer.sum():.1f} examples/sec on '
          f'{str(devices)}')

5.设置训练函数，初始化超参数

batch_size, devices, net = 256, d2l.try_all_gpus(), d2l.resnet18(10, 3)

def init_weights(m):
    if type(m) in [nn.Linear, nn.Conv2d]:
        nn.init.xavier_uniform_(m.weight)

net.apply(init_weights)

def train_with_data_aug(train_augs, test_augs, net, lr=0.001):
    train_iter = load_cifar10(True, train_augs, batch_size)
    test_iter = load_cifar10(False, test_augs, batch_size)
    loss = nn.CrossEntropyLoss(reduction="none")
    trainer = torch.optim.Adam(net.parameters(), lr=lr)
    train_ch13(net, train_iter, test_iter, loss, trainer, 10, devices)
    
print(load_cifar10(True, train_augs, batch_size))

6.运行

train_with_data_aug(train_augs, test_augs, net)

练习

1. 在不使用图像增广的情况下训练模型：train_with_data_aug(no_aug, no_aug)。比较使用和不使用图像增广的训练结果和测试精度。这个对比实验能支持图像增广可以减轻过拟合的论点吗？为什么？
   
   左图为使用了图像增广的test acc,有图是没有对测试集使用图像增广。可以发现的是右图的损失值很低，训练精度很好，但是测试精度不如左图做了增广的。所以说是有点过拟合的，他的泛化能力并不如左图做了图像增广。因为当加入了噪音或者反转，模型的训练会有更好的泛化能力，我们加入了噪音对于没有本身没有噪音的图像反而更容易进行识别。（可以这么简单的理解）

2. 在基于CIFAR-10数据集的模型训练中结合多种不同的图像增广方法。它能提高测试准确性吗？
   能，但作用很小因为这个图片太小了，并且颜色改变对他没有多大的影响。

3. 参阅深度学习框架的在线文档。它还提供了哪些其他的图像增广方法？
   自己查哦
    

Q&A

1.理论上数据足够大，是不是不用做增广？

对，但是只是理论，因为你的数据大，不能说明你的多样性很多。

2. 一般测试集的增广：例如在imageNet下，使用裁剪。实际的情况用的不过。竞赛可以用

3.增广没有改变的是方差，让你的方差变得稍微大了点。

4.mix-up将两个图片label和图片都叠加在一起。效果变好了。但是不知道为什么

比如猫和狗，叠加在一起，就变成了猫狗的鬼影，label就变成了0.6猫的图片和0.4狗的图片