nn.Parameter

Parameter本质也是一个tensor，同时作为参数可以被模型优化，在定义的时候，可以设置是否保存梯度。

para= nn.Parameter(torch.Tensor(10, 20), requires_grad = True)
para.requires_grad = False if (lr == 0) else True

参考：

1. PyTorch里面的torch.nn.Parameter()：https://www.jianshu.com/p/d8b77cc02410
2. 理解torch.nn.Parameter：https://zhuanlan.zhihu.com/p/344175147