pytorch模型保存与加载:state_dict、load_state_dict

简而言之,pytorch保存模型时用的映射关系。

pytorch中的state_dict是一个简单的python字典对象,将每一层与之对应的参数建立映射关系。只有参数可训练的layer才会保存到模型 的state_dict中,如卷积层、线性层。

优化器optimizer也有一个state_dict,包含了优化器的状态以及被使用的超参数(lr、momentum、weight_decay)

state_dict是定义了model或optimizer之后pytorch自动生成的,可直接调用。常用的保存state_dict格式是‘.pt’或‘.pth’的文件。

仅保存学习到的参数代码:

path='./***.pt'
torch.save( model.state_dict(), path)

加载模型

model=TheModelClass(*args,**kwargs)
model.load_state_dict(torch.load(path))
model.eval()

model.eval(),其中eval的意思是评估。在执行model.eval()是因为只有在执行该命令后,‘dropout层’及‘batch normalization层’才会进入evaluation模态,而在training与evalution下,两层有不同的表现形式。

state_dict是python字典格式,以字典格式存储,以字典格式被加载,而且只加载key匹配的项

加载某一层训练得到的参数

conv1_weight_state=torch.load('./model_state_dict.pt')['conv1.weight']

你可能感兴趣的:(python)