Fastai-学习器训练
模型训练
简介
在Fastai框架下，其实完成了前文所说的数据准备工作，就已经完成了深度网络训练的一半工作。剩下的就是学习器的构建以及训练效果的分析，也就是模型训练的部分。
学习器
在Fastai中，关于模型的构建并没有具体的API，要想实现自定义模型需要通过PyTorch的接口实现（参考我PyTorch模型的博文），所以Fastai中模型都是基于预定义的一些模型，这些模型都在fastai.vision.models下，是对torchvision定义的一些模型结构的引用和完善。
所以可以看出，Fastai的主要思想就是基于迁移学习（Transfer Learning），具体可以查询迁移学习的一些文章了解。总之，关于组合预定义的模型（如resnet，这些模型都是torchvision定义的，具体哪些可以自行查看）和数据集(DataBunch)，然后投入训练，Fastai提供了一个非常方便的工厂方法cnn_learner，它能够自动初始化合适的预训练模型并构建顶层结构以适应数据集。事实上，fastai.vision.learner最核心的两个方法就是cnn_learner和unet_learner，它们都会返回一个fastai.vision.Learner对象，该对象包含训练（fit）、预测（predict）等方法。
cnn_learner(
data:DataBunch, # 传入的数据集
base_arch:Callable, # 要进行Finetune的主干网络，接受`torch.nn.Model`的所有类型，包括自定义的
cut:Union[int, Callable]=None, # 在那一层分割网络
pretrained:bool=True, # 是否使用预训练模型，若使用则除顶层网络都会被冻结
lin_ftrs:Optional[Collection[int]]=None, # 添加头部网络中线性层特征数
ps:Floats=0.5, # 添加头部网络中Dropout概率
custom_head:Optional[Module]=None, # 自定义头部网络
split_on:Union[Callable, Collection[ModuleList], NoneType]=None, # 主干网络分组函数
bn_final:bool=False, # 分类前是否bn层
init='kaiming_normal_', # 头部网络参数初始化方法，默认kaiming初始化
concat_pool:bool=True, # 连接池化层
**kwargs:Any)
该方法从数据data和模型base_arch中生成一个Learner对象，它会截断原始模型（backbone，主干网络）（该截断默认在最后一个包含pooling层处分割）并在顶层添加线性分类层（head，头部网络），具体添加的结构可以查看官方文档。该方法参数丰富是为了方便自定义结构，实际进行使用时，很多默认参数就是很合理的，不需要过多调整。关于模型结构，该链接提供了很多比较常用的PyTorch实现的模型结构。
至此，就创建了一个很实用的学习器，下面将研究具体的训练过程。
训练
Fastai中最核心的训练方法为learn.fit()方法，很多demo中会提到learner.fit_one_cycle()方法，事实上这个方法在最新的Fastai中已经不建议使用了，它本质上就是fit方法添加OneCycleScheduler（one cycle策略）的回调组成的训练方法，自己在fit中添加即可。
fit是整个Fastai最为核心的训练函数，在fastai.basic_train模块中定义，具体参数和说明如下。
fit(
epochs:int, # 训练轮次
lr:Union[float, Collection[float], slice]=slice(None, 0.003, None), # 学习率
wd:Floats=None, # 学习率衰减比例
callbacks:Collection[Callback]=None) # 回调列表
该函数表示在学习器上训练模型，使用包含每轮学习率衰减的训练方法，并添加一些回调函数。这里比较特殊的参数就是学习率，lr会被进一步处理为一个浮点型数组，数组长度和learner.layer_groups一致，用于不同深度的网络层的差异化训练，而根据不同的lr参数值会有不同的构造方式。
- 数值：返回的lr数组为全为lr值的数组；
- slice对象(含start和stop)：返回一个等比序列，起始值和终止值如slice设定；
- slice对象（含stop）：最后一个lr为stop，其余为stop/10。
例如，下面的一段代码，就表示完整的数据读入、学习器构建、训练、验证的过程。
ds = data.ImageDataBunch.from_folder("101_ObjectCategories/", valid_pct=0.2, size=128)
learner_ = learner.cnn_learner(ds, models.resnet50, metrics=[metrics.accuracy])
learner_.fit(1)
Jupyter环境下的输出为下图，一轮的训练模型效果还是不错的。
在上面的三行代码中，在学习器构建的时候，使用了metrics参数，该参数表示训练中使用的评估指标，上述代码指定的为准确率。
metrics
常用的评估指标都封装于fastai.metrics模块下，它们接受模型输出outputs和标签targets作为输入并计算相应指标值，训练时提供的metrics会被封装为回到，在每一轮训练中使用，具体工作流程这里不多叙述，稍有点复杂。可以查阅文档了解具体的指标，包括准确率、mse、r2得分等各类指标。
callbacks
训练过程中难免需要进行一些特殊的操作，如及时停止陷入过拟合的模型、每个batch后进行学习率调整等等，这些操作被称为回调（callbacks），封装在fastai.callbacks模块下，但是在fastai.callback模块下封装了一些回调的机制，如果不是想要了解Fastai的源码实现的话，可以不做深入探究，它主要将训练分为了多个阶段，并在合适的阶段通过回调处理器来进行回调操作。
下面介绍一些常用的回调，他们封装于keras.callbacks中，以类的形式存在，使用时只需要实例化一个对象出来即可。
LRFinder
OneCycleScheduler
MixUpCallback
CSVLogger
GeneralScheduler
MixedPrecision
HookCallback
RNNTrainer
TerminateOnNaNCallback
EarlyStoppingCallback
SaveModelCallback
ReduceLROnPlateauCallback
PeakMemMetric
StopAfterNBatches
LearnerTensorboardWriter
# train and basic_train
Recorder
ShowGraph
BnFreeze
GradientClipping
上面的就是全部的回调方法（也可以自定义），下面具体说明几个常用的。
Recorder(
learn:Learner,
add_time:bool=True,
silent:bool=False)
可以理解为一个记录器，用于记录学习器的状态，Jupyter环境下训练时输出的表格就是该回调实现的，类似于Keras中的History，是默认添加的回调，可以通过learner.recoder获取该对象。该对象有一系列的方法，比较实用的有recoder.plot()（绘制损失随学习率变化曲线）、recoder.plot_losses（绘制训练和验证时的损失曲线）等。
lr_find(learn:Learner, start_lr:Floats=1e-07, end_lr:Floats=10, num_it:int=100, stop_div:bool=True, wd:float=None)
这是fastai.train中定义的函数，通过训练若干个batch绘制学习率曲线找到较为合适的学习率（上下界可以指定），也会进行训练的控制（如停止训练）。主要通过fastai.callbacks.LRFinder类实现，将其加入回调即可。
OneCycleScheduler(learn:Learner, lr_max:float, moms:Floats=(0.95, 0.85), div_factor:float=25.0, pct_start:float=0.3, final_div:float=None, tot_epochs:int=None, start_epoch:int=None)
按照著名的one cycle策略进行学习率的调整，可以设置一个cycle的epoch数等参数。
除此之外，还有很多实用的回调函数，这里不一一分析，可以查阅文档。
下面的代码就是添加了一个one cycle回调后的训练学习率变化的代码和学习率变化曲线（通过learner.recoder.pplot_lr()）绘制。
from fastai.vision import data, learner, models
from fastai import metrics
from fastai import callbacks
ds = data.ImageDataBunch.from_folder("101_ObjectCategories/", valid_pct=0.2, size=128)
learner_ = learner.cnn_learner(ds, models.resnet50, metrics=[metrics.accuracy])
one_cycle = callbacks.OneCycleScheduler(learner_, lr_max=0.1)
learner_.fit(10, lr=3e-4, callbacks=[one_cycle, ])
推理
学习器训练完成了，当然就要用于实际的推理中，关于学习器的推理（预测）设计了诸多API，常用的有如下几种。
单个数据推理
learn.predict(data)来获得单个数据的推理结果，如执行print(learner_.predict(learner_.data.train_ds[0][0]))会对训练集第一个图片进行预测，结果是个三元组，(类别名,类别索引,网络输出向量)。
批量数据推理
learn.pred_batch(ds)对一批数据进行推理预测，返回一批数据的网络输出，本例就是(64, 101)的张量输出。
数据集推理（训练集或者测试集）
get_preds(
ds_type:DatasetType=<DatasetType.Valid: 2>, # 指定推理数据集类型
activ:Module=None, #
with_loss:bool=False, # 是否返回loss
n_batch:Optional[int]=None, # 批处理尺寸
pbar:Union[MasterBar, ProgressBar, NoneType]=None)
指定with_loss后返回三个值，分别表示输出向量、标签索引、损失值，不设定with_loss则只输出前两者。
数据集推理（指标）
通过learner.validate(dl, callbacks, metrics)对任意数据集生成的数据加载器进行结果推理（用于计算指标值，如损失和准确率等）。
例如对验证集计算默认指标使用learner_.validate(learner_.data.valid_dl)就可以了。也可以通过learner.show_results(ds_type, rows)对数据集进行抽样推理并可视化。
解释器
Fastai实现了非常丰富的结果解释器模块，在每个application下都有具体实现，fastai.vision.interpret中就是视觉方面的具体实现。主要由ClassificationInterpretation（该类在fastai.train模块下）、SegmentationInterpretation等解释器类构成。
这些类含有from_learner()方法用于从学习器创建解释器，也可以通过learn.interpret()来获得解释器，这种方法获得的解释器依据learner类型进行创建。
分类解释器使用较多，它的具体文档可以查阅。它有很多常用的方法，举例如下。
interpreter.top_losses(k)会返回损失最大的k个损失值和数据下标。interpreter.plot_top_losses(k)对损失最大的k个图像可视化。
interpreter.confusion_matrix()计算验证集上的混淆矩阵，可以修改数据集。同时interpreter.plot_confusion_matrix()表示绘制混淆矩阵。
模型的保存与加载
分为参数保存和整个模型的保存，后者通过export()和load_learner()方法实现，使用较少，主要是保存模型参数。
learner.save(
file:PathLikeOrBinaryStream=None, # 文件路径
return_path:bool=False, # 是否返回路径字符串
with_opt:bool=True) # 是否保存优化器及其参数
若file参数是相对路径，则会使用learner.path作为目录，创建models文件夹后存放权重文件。
相应的，构造完成learner后调用load方法就可以加载模型参数了。
learner.load(
file:PathLikeOrBinaryStream=None,
device:torch.device=None,
strict:bool=True,
with_opt:bool=None,
purge:bool=False,
remove_module:bool=False)
至此，模型训练的整个内容就完成了。
补充说明
本文主要讲解Fastai框架下学习器的构建、训练、推理分析、保存和加载等操作，更多请了解官方文档，具体代码开源于我的Github，欢迎star或者fork。