【阿里云天池】实战：街景符号识别（数据读取与数据扩增）

一、数据扩增
在深度学习中数据扩增方法非常重要，数据扩增可以增加训练集的样本，同时也可以有效缓解模型过拟合的情况，也可以给模型带来的更强的泛化能力。

（1）数据扩增的作用
在深度学习模型的训练过程中，数据扩增是必不可少的环节。现有深度学习的参数非常多，一般的模型可训练的参数量基本上都是万到百万级别，而训练集样本的数量很难有这么多。
其次数据扩增可以扩展样本空间，假设现在的分类模型需要对汽车进行分类，左边的是汽车A，右边为汽车B。如果不使用任何数据扩增方法，深度学习模型会从汽车车头的角度来进行判别，而不是汽车具体的区别。

（2）数据扩增的方法
数据扩增方法有很多：从颜色空间、尺度空间到样本空间，同时根据不同任务数据扩增都有相应的区别。
对于图像分类，数据扩增一般不会改变标签；对于物体检测，数据扩增会改变物体坐标位置；对于图像分割，数据扩增会改变像素标签。

（3）常见的扩增方法
在常见的数据扩增方法中，一般会从图像颜色、尺寸、形态、空间和像素等角度进行变换。当然不同的数据扩增方法可以自由进行组合，得到更加丰富的数据扩增方法。

以torchvision为例，常见的数据扩增方法包括：

transforms.CenterCrop 对图片中心进行裁剪
transforms.ColorJitter 对图像颜色的对比度、饱和度和零度进行变换
transforms.FiveCrop 对图像四个角和中心进行裁剪得到五分图像
transforms.Grayscale 对图像进行灰度变换
transforms.Pad 使用固定值进行像素填充
transforms.RandomAffine 随机仿射变换
transforms.RandomCrop 随机区域裁剪
transforms.RandomHorizontalFlip 随机水平翻转
transforms.RandomRotation 随机旋转
transforms.RandomVerticalFlip 随机垂直翻转

二、数据读取
本次采用Pytorch作用框架，所以在考虑数据读取的时候必然是要构建Dataset和DataLoader这两个模块的。

（1）数据读取

train_path = glob.glob('mchar_train/mchar_train/*.png')
train_path.sort()
train_json = json.load(open('mchar_train.json'))
train_label = [train_json[x]['label'] for x in train_json]

train_path是图片的路径，通过glob方法，可以匹配获得所有图片的路径。train_path.sort()按照大小排列

train_json读取JSON数据。

train_label通过train_json数据读取出每一张图片的字。

（2）Dataset
Dataset的输入数据为图片路径，对应的图片标签，是否变换数据
__init__里面保存下路径，标签，变换方法。
__len__不做修改。
getitem中首先通过Image.poen方法读取图片，并且转换为RGB图，然后如果有图片变换需求，就变换图片。

class SVHNDataset(Dataset):
    def __init__(self, img_path, img_label, transform=None):
        self.img_path = img_path
        self.img_label = img_label
        if transform is not None:
            self.transform = transform
        else:
            self.transform = None
            
    def __len__(self):
        return len(self.img_path)
        
    def __getitem__(self, index):
        img = Image.open(self.img_path[index]).convert('RGB')

        if self.transform is not None:
            img = self.transform(img)

        # 原始SVHN中类别10为数字0
        lbl = np.array(self.img_label[index], dtype=np.int)
        lbl = list(lbl) + (5 - len(lbl)) * [10]

        return img, torch.from_numpy(np.array(lbl[:5]))

lbl = list(lbl) + (5 - len(lbl)) * [10] 一句的意思是在原标签基础上补足字符至5个，也就是空字符设为标签10，然后使得所有标签长度相等，化为定长字符识别问题。在原数据集中，数字0的标签是10，但是天池这次提供的数据集中0的标签是0，所以我们可以用10来标记空字符。另外，上一章中提到化为6个定长字符，这里因为考虑到6个字符的数据只有一个，所以把它忽略了，以后统一按5个定长字符处理。

（3）DataLoader

train_loader = torch.utils.data.DataLoader(
    SVHNDataset(train_path, train_label,
                transforms.Compose([
                    # 缩放到固定尺寸
                    transforms.Resize((64, 128)),
                    # 随机颜色变换
                    transforms.ColorJitter(0.3, 0.3, 0.2),
                    # 加入随机旋转
                    transforms.RandomRotation(5),
                    # 将图片转换为pytorch 的tesntor
                    transforms.ToTensor(),
                    # 对图像像素进行归一化
                    transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
                ])),
    batch_size=10,  # 每批样本个数
    shuffle=False,  # 是否打乱顺序
    num_workers=10,  # 读取的线程个数
)