简而言之,pytorch保存模型时用的映射关系。
pytorch中的state_dict是一个简单的python字典对象,将每一层与之对应的参数建立映射关系。只有参数可训练的layer才会保存到模型 的state_dict中,如卷积层、线性层。
优化器optimizer也有一个state_dict,包含了优化器的状态以及被使用的超参数(lr、momentum、weight_decay)
state_dict是定义了model或optimizer之后pytorch自动生成的,可直接调用。常用的保存state_dict格式是‘.pt’或‘.pth’的文件。
仅保存学习到的参数代码:
path='./***.pt'
torch.save( model.state_dict(), path)
加载模型
model=TheModelClass(*args,**kwargs)
model.load_state_dict(torch.load(path))
model.eval()
model.eval(),其中eval的意思是评估。在执行model.eval()是因为只有在执行该命令后,‘dropout层’及‘batch normalization层’才会进入evaluation模态,而在training与evalution下,两层有不同的表现形式。
state_dict是python字典格式,以字典格式存储,以字典格式被加载,而且只加载key匹配的项
加载某一层训练得到的参数
conv1_weight_state=torch.load('./model_state_dict.pt')['conv1.weight']