Pytorch 入门之数据处理 -- Dataset、Sampler、DataLoader

做个学习笔记。

迭代器概念：

迭代的意思类似于循环，每一次重复的过程被称为一次迭代的过程，而每一次迭代得到的结果会被用来作为下一次迭代的初始值。提供迭代方法的容器称为迭代器，通常接触的迭代器有序列（列表、元组和字符串）还有字典，这些数据结构都支持迭代操作。

实现迭代器的魔法方法有两个：__iter__(self) 和 __next__(self)

一个容器如果是迭代器，那就必须实现 __iter__(self) 魔法方法，这个方法实际上是返回是一个迭代器（通常是迭代器本身）。接下来重点要实现的是 __next__(self) 魔法方法，因为它决定了迭代的规则。

数据类解读：

Dataset 读取图片变成可识别数据

Sampler 遍历数据

Dataloader 负责加载数据

联系：

1. 设置 Dataset，将数据 data source 包装成 Dataset 类，暴露提取接口。
2. 设置 Sampler，决定采样方式。我们是能从 Dataset 中提取元素了，还是需要设置 Sampler 告诉程序提取 Dataset 的策略。
3. 将设置好的 Dataset 和 Sampler 传入 DataLoader，同时可以设置 shuffle, batch_size 等参数。使用 DataLoader 对象可以方便快捷地在数据集上遍历。

for 循环会调用 dataloader 的 __iter__(self) 方法，以此获得迭代器来遍历 dataset

PyTorch 源码解读之 torch.utils.data：解析数据处理全流程 - 知乎

两文读懂PyTorch中Dataset与DataLoader（一）打造自己的数据集 - 知乎