剪枝基础与实战(2): L1和L2正则化及BatchNormalization讲解

1. CIFAR10 数据集

CIFAR10 是深度学习入门最先接触到的数据集之一，主要用于图像分类任务中，该数据集总共有10个类别。

• 图片数量：6w 张
• 图片宽高：32x32
• 图片类别：10
• Trainset: 5w 张，5 个训练块
• Testset: 1w 张，1 个测试块

Pytorch 集成了很多常见数据集的API， 可以通过pytorch 来下载这些数据集，并做成模型需要的DataSet和Dataloader, 供模型训练使用。

1.1 数据集准备

制作Dataloader: utils.py 代码实现如下:

import torchvision.datasets as datasets
import torchvision.transforms as transforms