导包
import os # 导入标准库,利用其中的API(操作系统接口)
os.environ['KMP_DUPLICATE_LIB_OK']='True' # 设置选项允许重复加载动态链接库。os.environ表示字符串环境的mapping对象。
import numpy as np # numpy是python中的数值数学扩展包,支持大维度的数组和矩阵计算,也针对数组运算提供大量的数学函数库
import matplotlib.pyplot as plt # Matplotlib是Python及NumPy的可视化操作界面。
import torch
import torch.nn as nn #神经网络包
import torch.optim as optim # 优化包
from torch.autograd import Variable #可自动求导的变量Variable
输入数据
x_train = np.array([[3.3], [4.4], [5.5], [6.71], [6.93], [4.168],
[9.779], [6.182],[7.59], [2.167], [7.042],
[10.791], [5.313], [7.997], [3.1]], dtype=np.float32)
y_train = np.array([[1.7], [2.76], [2.09], [3.19], [1.694], [1.573],
[3.366], [2.596], [2.53], [1.221], [2.827],
[3.465], [1.65], [2.904], [1.3]], dtype=np.float32)
x_train = torch.from_numpy(x_train) # 转化成Pytorch中的处理单元Tensor类型
y_train = torch.from_numpy(y_train)
建立模型
#继承pytorch提供的nn.Module()类。通过把nn.Linear()绑定到类实例属性,以及实现forward()方法实现前向传播
class LinearRegression(nn.Module): # nn.Module是所有网络的基类,所有模型都继承于这个类
def __init__(self):
# super()函数用来调用父类的方法
super(LinearRegression, self).__init__()
self.linear = nn.Linear(1, 1) # 输入输出是同一维度,这里均为一维列向量
def forward(self,x):
out = self.linear(x)
return out
#是否支持GPU加速
if torch.cuda.is_available():
model = LinearRegression().cuda() #如果支持GPU加速,可以将模型放到GPU上
#定义损失函数和优化函数
criterion = nn.MSELoss() #使用均方误差作为优化函数
optimiser = optim.SGD(model.parameters(),lr=0.01) #使用随机梯度下降进行优化,学习率设为0.01
#parameters()返回一个 包含模型所有参数 的迭代器**
训练网络
#训练网络的顺序为:读取数据--将数据送入网络--得到网络输出--用输出和标签计算损失--最小化损失--更新梯度
num_epochs = 1000 # 训练1000次
for epoch in range(num_epochs):
if torch.cuda.is_available():
inputs = Variable(x_train).cuda()
target = Variable(y_train).cuda()
else:
inputs = Variable(x_train) #将数据转化为可自动求导的Variable类型
target = Variable(y_train)
# forward
out = model(inputs) #得到前向传播得到的结果
loss = criterion(out,target) #得到损失函数
# backward
optimiser.zero_grad() #归零梯度
loss.backward() #反向传播和更新参数
optimiser.step()
if (epoch+1) % 20 == 0: # 每隔一段时间将损失函数的值打印出来
print('Epoch[{}/{}], loss: {:.6f}'
.format(epoch+1, num_epochs, loss.item()))
得到预测值
model.eval() # 将模型变成预测模式
model.cpu()
predict = model(Variable(x_train))
predict = predict.data.numpy()
可视化输出
plt.plot(x_train.numpy(),y_train.numpy(), 'ro', label='Original data')
plt.plot(x_train.numpy(), predict, 'b', label='Fitting Line')
plt.show()