pytorch模型保存、加载与继续训练

pytorch保存模型非常简单，主要有两种方法：

1. 只保存参数；（官方推荐）
2. 保存整个模型 (结构+参数)。

由于保存整个模型将耗费大量的存储，故官方推荐只保存参数，然后在建好模型的基础上加载。本文介绍两种方法，但只就第一种方法进行举例详解。

一、只保存参数

1.保存
一般地，采用一条语句即可保存参数：

torch.save(model.state_dict(), path)

其中model指定义的模型实例变量，如 lanemodel=vgg16( )；path是保存参数的路径，如 path=’./model.pth’ , path=’./model.tar’, path=’./model.pkl’, 保存参数的文件一定要有后缀扩展名。
实例：我设置网络模型变量为lanemodel=vgg16( )，保存地址为"/lanenet.model"，保存模型的代码如下：

torch.save(lanemodel.state_dict(), "/lanenet.model")

特别地，如果还想保存某一次训练采用的优化器、epochs等信息，可将这些信息组合起来构成一个字典，然后将字典保存起来：

state = {'model': model.state_dict(), 'optimizer': optimizer.state_dict(), 'epoch': epoch}
torch.save(state, path)

二、加载

针对上述第一种情况，也只需要一句即可加载模型：

model.load_state_dict(torch.load(path))

针对上述第二种以字典形式保存的方法，加载方式如下：

checkpoint = torch.load(path)
model.load_state_dict(checkpoint['model'])
optimizer.load_state_dict(checkpoint['optimizer'])
epoch = checkpoint['epoch']

需要注意的是，只保存参数的方法在加载的时候要事先定义好跟原模型一致的模型，并在该模型的实例对象(假设名为model)上进行加载，即在使用上述加载语句前已经有定义了一个和原模型一样的Net, 并且进行了实例化 model=Net( ) 。

另外，如果每一个epoch或每n个epoch都要保存一次参数，可设置不同的path，如 path=’./model’ + str(epoch) +’.pth’，这样，不同epoch的参数就能保存在不同的文件中，选择保存识别率最大的模型参数也一样，只需在保存模型语句前加个if判断语句即可。

三、加载中断后的模型并继续训练

在训练模型的时候可能会因为一些问题导致程序中断，或者常常需要观察训练情况的变化来更改学习率等参数，这时候就需要加载中断前保存的模型，并在此基础上继续训练，这时候只需要对上例中的 main() 函数做相应的修改即可。
下面给出一个具体的例子程序，该程序只保存最新的参数：

def main():
 
    # 如果test_flag=True,则加载已保存的模型
    if test_flag:
        # 加载保存的模型直接进行测试机验证，不进行此模块以后的步骤
        checkpoint = torch.load(log_dir)
        model.load_state_dict(checkpoint['model'])
        optimizer.load_state_dict(checkpoint['optimizer'])
        start_epoch = checkpoint['epoch']
        test(model, test_load)
        return
 
    # 如果有保存的模型，则加载模型，并在其基础上继续训练
    if os.path.exists(log_dir):
        checkpoint = torch.load(log_dir)
        model.load_state_dict(checkpoint['model'])
        optimizer.load_state_dict(checkpoint['optimizer'])
        start_epoch = checkpoint['epoch']
        print('加载 epoch {} 成功！'.format(start_epoch))
    else:
        start_epoch = 0
        print('无保存模型，将从头开始训练！')
 
    for epoch in range(start_epoch+1, epochs):
        train(model, train_load, epoch)
        test(model, test_load)
        # 保存模型
        state = {'model':model.state_dict(), 'optimizer':optimizer.state_dict(), 'epoch':epoch}
        torch.save(state, log_dir)

二、第二种方法：保存整个模型

1. 保存

torch.save(model, path)

2. 加载

model = torch.load(path)